1. Startseite
  2. Welt

„Weckruf“: Künstliche Intelligenz entwickelt 40.000 Chemie-Waffen in 6 Stunden

Erstellt:

Von: Lucas Maier

Kommentare

„Weckruf“: Computer entwickelt 40.000 mögliche Chemie-Waffen.
„Weckruf“: Computer entwickelt 40.000 mögliche Chemie-Waffen. (Archvibild) © Fabian Sommer/DPA

Ein Test zeigt die Gefahr von Künstlicher Intelligenz. Wissenschaftler sehen die Entwicklung von 40.000 Giften in wenigen Stunden als „Weckruf“. 

Kassel – Die Wissenschaftlerinnen und Wissenschaftler sind selbst überrascht: Ein Computer hat insgesamt 40.000 mögliche Chemie-Waffen in nur sechs Stunden erstellt. Einige sollen so giftig sein wie das Nervengift VX.

Das bekannte Gift tötet in nur wenigen Minuten und zählt zu den giftigsten Substanzen auf der Erde. Es kann über Haut, Augen oder Atemwege aufgenommen werden. Im Februar 2017 wurde der Halbbruder von Kim Jong-un mutmaßlich mit dem Wirkstoff VX getötet, so die Nachrichtenagentur afp.

Chemie-Waffen: Normalerweise erzeugt die KI Medikamente

Eigentlich geht es bei der computergestützten Chemie-Forschung darum, Medikamente für seltene Krankheiten zu entwickeln. Forscher von Collaborations Pharmaceuticals (USA) haben das Gift-Experiment lediglich auf Anfrage durchgeführt, das schreibt das Wirtschaftsmagazin t3n.de.

Angefragt hatte die Spiez Convergence. Diese Konferenz beschäftigt sich mit möglichen Auswirkungen der Wissenschaft auf die Biowaffenkonventionen*, so t3n.

Computer mit tödlichen Rezepturen: KI hat in kürzester Zeit viele Gifte erzeugt

Für das etwas andere Experiment haben die Forschenden ihre künstliche Intelligenz (KI), umgekehrt laufen lassen. Normalerweise untersucht die KI Toxizität (Giftigkeit) von Molekülen, um gefahrlose Wirkstoffe zu erzeugen.

Der Test sollte zeigen, wie gefährlich eine solche KI sein kann, wenn sie für die falschen Interessen verwendet wird. Das sagte der Hauptautor des Experimentes, Fabio Urbina, gegenüber dem amerikanischen Mediennetzwerk The Verge. Veröffentlicht wurden die Ergebnisse, am 7. März 2022 im Forschungsjournal nature machine intelligence.

Tod aus dem Computer: Ergebnisse seien ein „Weckruf“ so die Forschenden

Die Resultate des Tests müssen als „Weckruf“ verstanden werden, schrieben die Forschenden in ihrer Veröffentlichung von Anfang März. Das Herstellen von Giften, beziehungsweise chemischen oder biologischen Kampfstoffen, würde durch das maschinelle Lernen extrem vereinfacht werden, so die Herausgeber.

Die KI erzeugte in dem Experiment viele bereits bekannte Gifte, darunter auch das gefährliche Nervengift VX. Einige der Gifte seien sogar noch tödlicher als VX, so Urbina. In ihrer Veröffentlichung gingen die Forschenden nicht allzu sehr ins Detail, um nicht zu viele Informationen zur Giftstoffgewinnung zu verraten.

Gefahr aus dem Computer: Mit wenig Kenntnissen zur Gift-Waffe

Für die Erstellung der Stoffe brauche es nicht viel, so Urbina. Kenntnisse in der Anwendung des Programms Python, die richtigen Datensätze (aus dem Internet) und zwei bis drei Tage Zeit, würde wohl schon reichen.

Die Forschenden erhoffen sich eine Sensibilisierung von vielen Wissenschaftlerinnen und Wissenschaftlern für dieses oder ähnliche Szenarien. Außerdem müsse ein Umgang mit den frei zugänglichen Datensätzen gefunden werden. So wichtig die freie Zugänglichkeit für die Forschung ist, so gefährlich kann sie im Bereich von Chemie und Giften für die Menschen werden. (lm) *wlz.de ist ein Angebot von IPPEN.MEDIA.

Auch interessant

Kommentare