Die Macht der KI beunruhigt hochrangige Labour-Figuren - ebenso wie die Angst, "in den Rückstand der Öffentlichkeit zu geraten"

Westminster scheint aufwachen Warnungen über die Sicherheit der KI, mit Bedenken über seine Verwendung durch extremistische Gruppen und schlechte Akteure

"Ich habe das Gefühl, dass innerhalb weniger Monate KI alles sein wird, worüber irgendjemand spricht", sagte ein Kabinettsminister mit einem ominösen Blick.

Es war Labour-Konferenz, mit allen, von Ministern bis zu Aktivisten, die sich über Andy Burnhams Übernahme freuten, und einem Sprung in die Umfragen nach dem Führerwechsel.

Aber eine Reihe hochrangiger Labour-Leute begannen privat, die Macht der KI als das zu benennen, was sie am meisten beunruhigte, neben dem unmittelbaren Druck auf die Lebenshaltungskosten und die fragile Wirtschaft.

Ein Kabinettsminister - mit einem kurzen, nicht mit Technologie zu tun - sagte dem Guardian, dass gefährliche, außer Kontrolle geratene KI das Problem sei, sie nachts wach zu halten und sich über die Bedrohung der Menschheit zu sorgen. Es waren "keine Killerroboter", die die Sorge verursachten, erklärten sie, aber die Idee einer riesigen Menge an konzentrierter, superintelligenter Macht, die möglicherweise in den Händen schlechter Schauspieler landete.

Ein anderer äußerte sich besorgt darüber, dass die Regierung in Bezug auf den Umgang mit Sorgen um die KI-Sicherheit „in Rückstand geraten sei – und dass sie schnell aufholen müsse.

In seiner Konferenzrede sprach Ed Miliband am schärfsten über die "schrecklichen" Gefahren der KI und argumentierte, dass Politiker nicht zulassen könnten und würden, dass die Gewinne von Technologieunternehmen "auf Kosten unserer Kinder oder der Menschheit gehen".

Und es hat nicht lange gedauert, bis diese Alarmglocken noch lauter läuten, wobei die letzten sieben Tage wie die Woche aussahen, in der Westminster vollständig auf die Warnungen aufmerksam wurde.

Eine Flut von Aktivitäten begann am Montag mit Kanishka Narayan, der KI-Ministerin, die erklärte, es sei "wahrscheinlich, wenn nicht unvermeidlich", dass Schurkenagenten den britischen Staat hacken würden, und sagte, das Vereinigte Königreich wolle seine bevorstehende Cybersicherheitsgesetzgebung stärken.

Es war das Hauptthema der Diskussion im Kabinett am Dienstag, und dem folgte die Warnung des MI5-Chefs Ken McCallum, dass die KI "den Cybersicherheitswettbewerb zwischen Angreifern und Verteidigern auflädt". Er sagte, die größte Bedrohung seien extremistische Gruppen, die die Technologie nutzen, um Biowaffen freizusetzen - Toxine, die verwendet werden, um Tod und Krankheit zu verursachen.

Liam Byrne, der Vorsitzende des Ausschusses für Wirtschaft, Innovation, Wissenschaft und Handel, sagte, der Regierungswechsel von Keir Starmer zu Burnham stehe zum Teil hinter dem verstärkten Fokus auf den Schutz Großbritanniens vor KI-Bedrohungen, aber es müsse noch mehr getan werden. "Die Realität ist, dass die Starmer-Regierung viel zu nah an den großen Technologieunternehmen war", sagte Byrne. "Und Burnham ist es ehrlich gesagt nicht, also hat sich die Haltung geändert." Diese Dinge, plus die Sicherheitsdienste, die ihre Warnung ausstellen, das ist es, was das Wetter verändert hat.

Eine hochrangige Labour-Regierung stimmte zu, dass Burnhams Regierung KI-Sicherheitswarnungen ernster nahm. "Ich habe das Gefühl, dass es eine Verschiebung gegeben hat." Unter dem letzten Los hatten zu viele von ihnen den Tech-Bro Kool-Aid getrunken, sagte er.

Byrnes Ausschuss hielt diese Woche eine Evidenzsitzung mit Führungskräften des öffentlichen Dienstes ab, die für die KI-Sicherheit zuständig sind, und Führungskräften der wichtigsten Unternehmen - Anthropic, OpenAI, DeepMind und Meta - mit einer Spaltung zwischen ihnen darüber, ob staatliche Tests neuer Modelle obligatorisch sein sollten.

Er sagte, sein ausschuss habe das thema "aufgeklärt", insbesondere in bezug auf die zusammenarbeit mit den usa, um neue modelle zu regulieren und zu überwachen. Es wurde berichtet, dass die Regierung von Donald Trump KI-Unternehmen gebeten hatte, ihre neuesten Modelle nicht mit dem britischen AI Security Institute zum Testen zu teilen, obwohl Narayan diese Woche bestätigte, dass sie es geschafft hatten, die Zusammenarbeit beizubehalten.

Aber Byrne sagte, die Regierung müsse nun den Moment nutzen und die Führung bei neuen Regulierungen übernehmen, insbesondere wenn Trumps Republikaner bei den Zwischenwahlen zu den Demokraten die Kontrolle über den Kongress verloren hätten.

"Ich denke, die Regierung ist immer noch in einem Dilemma gefangen zwischen dem, wie man den Modellzugang angesichts eines launischen US-Präsidenten behält, und den Sicherheitsvorkehrungen, die die Industrie selbst jetzt für wesentlich hält." Es ist make-your-mind-up-zeit, würde ich sagen, sagte byrne.

„Die Unternehmen wollen kooperieren ... Es liegt nicht in ihrem kommerziellen Interesse, Modelle herauszugeben, die tödlich sind. Jetzt müssen auch sie durch das Weiße Haus navigieren. Ich denke nur, dass dies ein Moment ist, in dem die Regierung tatsächlich tun muss, was für das Land richtig ist, weil der Kongress im Begriff ist, die Dynamik in den USA zu ändern.

Die bevorstehende britische G20-Präsidentschaft wird der entscheidende Moment sein, um internationale Maßnahmen zur Eindämmung der KI voranzutreiben. Geoffrey Irving, der ehemalige Chefwissenschaftler am AISI, der diese Woche bei der parlamentarischen Anhörung sprach, glaubt, dass Whitehall-Bedenken gerechtfertigt sind. Die Technologie von OpenAI und Anthropic hat bereits ihre Hacking-Fähigkeiten gezeigt, aber ihre Modelle werden mit Sicherheitsleitplanken veröffentlicht, die zumindest die Bedrohung durch bösartiges Verhalten abschwächen.

Sogenannte Open-Source-KI-Modelle sind jedoch frei verfügbar und können angepasst werden. Typischerweise haben sie die bezahlten Modelle wie OpenAI innerhalb von weniger als einem Jahr eingeholt, sagte Irving, obwohl sie bereits Störungen verursachen könnten.

"Es ist sehr wahrscheinlich, dass Open-Source-Modelle bereits mächtig genug sind, um ernsthaften Schaden anzurichten", sagte Irving dem Guardian und fügte hinzu, dass er erwartet, dass Open-Source-Technologie die Fähigkeiten von OpenAI und Anthropic-Produkten "bald" erreichen wird. Sicherheitsleitplanken "existieren entweder nicht oder können trivial entfernt werden" von Open-Source-Modellen, fügte er hinzu.

Der Geschäftsausschuss hörte diese Woche, dass KI-fähige Biowaffen die nächste ernsthafte Bedrohung sein könnten, die sich im Zuge der Cybersicherheit manifestieren könnte, da Modelle leistungsfähiger werden und daher in der Lage sind, neuartige Bioschäden zu entwickeln - obwohl Experten vorschlagen, dass es eine Lücke zwischen der Entwicklung gefährlicher Krankheitserreger und deren Waffenbildung gibt.

Sorgen über Cybersicherheit und Biowaffen können schnell zu Ängsten über KI eskalieren, die die Menschheit in einer Vielzahl von Szenarien auslöschen - eine Sorge, die in der KI-Gemeinschaft weit verbreitet ist und von Irving geteilt wird.

Einige Experten argumentieren jedoch, dass die Gove..