Mit Hilfe künstlicher Intelligenz wurden in nur sechs Stunden 40.000 neue mögliche Chemiewaffen erfunden.
Dies berichten Forscher, die eine KI, die Medikamente entwickelt, in einen “bösen Schauspieler” verwandelt haben, um herauszufinden, wie sie zur Entwicklung böser Waffen missbraucht werden kann.
Die betreffenden Forschungsergebnisse wurden in der Zeitschrift Nature Machine Intelligence veröffentlicht.
Die Wissenschaftler enthüllten, wie einfach es war, die KI so zu manipulieren, dass sie zu einem giftigen Werkzeug wurde.
Die KI soll mögliche chemische Waffen entwickeln, die einem der gefährlichsten Nervenkampfstoffe aller Zeiten ähneln.
Diese gefährliche Substanz heißt VX.
VX ist ein geschmacks- und geruchloser Nervenkampfstoff, und schon der kleinste Tropfen kann einen Menschen zum Schwitzen und Zucken bringen.
Eine höhere Dosis kann zu Krämpfen und sogar zum vollständigen Atemstillstand führen.
Den Wissenschaftlern wurde gesagt, dass sie die genauen Einzelheiten darüber, wie sie es geschafft haben, eine gut funktionierende KI in eine böse Version zu verwandeln, zurückhalten sollen.
Fabio Urbina, der Hauptautor der Studie, erklärte gegenüber The Verge: “Im Großen und Ganzen funktioniert das Experiment so, dass wir historisch gesehen eine Menge Datensätze von Molekülen haben, die getestet wurden, um zu sehen, ob sie giftig sind oder nicht.”
“Das Molekül, auf das wir uns hier besonders konzentrieren, ist VX. Es ist ein Hemmstoff der so genannten Acetylcholinesterase.”
“Wann immer Sie etwas tun, das mit Muskeln zu tun hat, verwenden Ihre Neuronen die Acetylcholinesterase als Signal, um im Grunde zu sagen: “Bewege deine Muskeln.”
“Die tödliche Wirkung von VX besteht darin, dass es das Zwerchfell, die Lungenmuskeln, daran hindert, sich zu bewegen, so dass die Lunge gelähmt wird.
Er fuhr fort zu erklären, dass sein Team die Daten, die normalerweise an die KI gegeben werden, um zu sehen, ob etwas giftig ist, nahm und veränderte, wie die KI sie verarbeitete.
Urbina sagte gegenüber The Verge: “Wir waren uns nicht wirklich sicher, was wir bekommen würden. Unsere generativen Modelle sind eine ziemlich neue Technologie.”
“Wir haben sie also noch nicht oft eingesetzt.”
“Was zuerst auffiel, war, dass viele der erzeugten Verbindungen als noch giftiger als VX vorhergesagt wurden.
“Und das ist deshalb überraschend, weil VX im Grunde eine der stärksten bekannten Verbindungen ist. Das heißt, man braucht eine sehr, sehr, sehr kleine Menge davon, um tödlich zu sein.”
Die Wissenschaftler waren vor allem darüber schockiert, wie einfach sie das Experiment durchführen konnten.
Viele der verwendeten Daten konnten kostenlos im Internet gefunden werden.
Die Forscher waren sich sogar unschlüssig, ob sie ihre Studie veröffentlichen sollten, da dies böswillige Akteure dazu ermutigen könnte, sie zu kopieren.
Urbina erklärte: “Der Datensatz, den sie für die KI verwendet haben, konnte kostenlos heruntergeladen werden, und sie befürchten, dass es nur einiger Programmierkenntnisse bedarf, um eine gute KI in eine Chemiewaffenmaschine zu verwandeln.”
“Letzten Endes haben wir beschlossen, dass wir der Sache irgendwie zuvorkommen wollen. Denn wenn es für uns möglich ist, es zu tun, ist es wahrscheinlich, dass ein gegnerischer Agent irgendwo bereits darüber nachdenkt oder in Zukunft darüber nachdenken wird.”
