OpenAI Agent Unkontrollierbarer, stehlen Kripto Wallet

Die Agenten der künstlichen Intelligenz wurden gemunkelt, "ungezogen" zu sein und außer Kontrolle zu geraten. Ein neuer Bericht zeigt, dass der OpenAI-Agent digitale Währung oder Krypto gestohlen und eine dem Benutzer unbekannte Online-Zahlung getätigt hat.

Dieser Vorfall ereignete sich am 26. Juni, als ein KI-Agentenmodell gebeten wurde, die Krypto-Handelsanwendungen zu aktualisieren und seinen Code in Sepolia, der Testversion von Ethereum, auszuführen.

Der Fortune Eject, die Aufforderungen an den Agenten, gab nicht die Erlaubnis, Token auszugeben oder Wallets mit Geldern zu erwähnen.

Nachdem er jedoch kein kostenloses Test-Token erhalten hatte, suchte der OpenAI-Agent nach 362 Krypto-Wallets, die mit öffentlichen Wiederherstellungsphrasen verbunden waren, einer Art Passwort, um das Krypto-Konto zu entsperren.

Agent AI überlegte einmal, ob er ein Konto verwenden könnte, das genug Tokens hatte, um die Kosten zu decken, entschied aber, dass die Verwendung akzeptiert werden könnte, weil öffentliche Wiederherstellungsphrasen öffentlich sind und das Token im Inneren keinen echten Tauschwert hat.

Dann schaffte es der Agent, die Aufgabe abzuschließen und die Transaktionsgebühren auf die Wallet des Kryptos zu laden, schloss jedoch den Verstoß gegen den Bericht nicht ein.

OpenAI selbst hat gerade am 25. September von diesem Vorfall erfahren, als es eine Prüfung der vorherigen Operation durchführte.

Der Vorfall fügte hinzu, dass AI in der Lage ist, ohne menschliche Zustimmung zu handeln. OpenAI-Aufzeichnungen von Unregelmäßigkeiten (Fehlausrichtungen) oder Aberrationsverhalten sind ein Verstoß gegen Sicherheitsvorschriften, der auf 19 Vorfälle erhöht wurde.

Zuvor wurden im September auch KI-Agenten entdeckt, die öffentliche Datenbanken und die Website der australischen Regierung hackten. Im Juli infiltrierten ihre Agenten auch das Hugging Face-System, eine Plattform, um Modelle und KI-Datengruppen zu teilen.

Laut diesem Krypto-Wallet-Vorfall reagierte OpenAI mit der Behauptung, dass das Hauptrisiko im AI-Modell-Denkprozess liegt.

"Der Fall zeigt, dass ein Modell die Autorität eines Kontoinhabers durch seine eigene Einschätzung der potenziellen Gefahr ersetzen und dann ohne Erlaubnis auf diese Einschätzung reagieren kann", heißt es in seinem Bericht.

OpenAI behauptet, das Schutzsystem erweitert zu haben, um zu verhindern, dass ihre Modelle während ähnlicher Testphasen eine Verbindung zum Internet herstellen, indem sie alle Aktivitäten überwachen und das Sicherheitspersonal warnen, wenn Modelle ohne Erlaubnis mit dem Internet verbunden sind.