Ich bin ein CTO. KI braucht immer noch Ihre menschliche Expertise | Madhu Shashanka

KI wird zunehmend gut darin, einige Aufgaben zu erledigen, aber sie kann niemals das Urteil menschlicher Arbeiter ersetzen

Autonome Autos, die vielleicht die sichersten sind, die wir gebaut haben, erhalten immer wieder leicht vermeidbare Parktickets. Während Waymos weit seltener abstürzt als menschliche Fahrer über Dutzende von Millionen Kilometern, sind sie immer noch schrecklich bei der Ausführung grundlegender Aufgaben - sich von Behindertenparkplätzen und Abschleppzonen fernzuhalten oder sich während des Sonntagsdienstes von einer Kirchengarage fernzuhalten, so das Wall Street Journal.

Das ist der Zustand der KI heute: beeindruckend fähig zu etwas Komplexem, aber peinlich ungeschickt zu etwas Einfachem. Und es hat Auswirkungen darauf, welche Arbeit menschlich bleibt und was durch KI automatisiert wird.

Die Menschen erwarten, dass KI in 34 der 37 vom Pew Research Center befragten Länder zu weniger Arbeitsplätzen führen wird. In wohlhabenden Ländern wie den USA, Australien und Südkorea erwarten etwa sieben von zehn Arbeitsplätzen in den nächsten 20 Jahren. Und in allen Ländern wächst die Besorgnis unter jungen Menschen. Während Ängste sich auf Jobzahlen konzentrieren, wird die größere Veränderung sein, was Jobs werden.

Die Natur der menschlichen Arbeit wird sich in Richtung Urteil bewegen. Experten bezeichnen KI als "gezackt", übermenschlich bei bestimmten Aufgaben, aber schwach bei anderen, ohne klare Grenze zwischen den beiden. KI verbessert sich schnell, wo Arbeit automatisch überprüft werden kann und Beispiele endlos sind. Aber es ist wackelig, wo kein automatisierter Test feststellen kann, ob die Antwort richtig ist. Selbst wenn AI die meiste Zeit bei einer Aufgabe korrekt ist, sagt es Ihnen oft nicht, wann es ungenau ist. Wenn Sie AI verwendet haben, haben Sie wahrscheinlich erfahren, wie es sicher falsch sein kann.

Einige dieser Fehler werden sich von selbst lösen, wenn Modelle besser werden. Aber Zackenheit ist ein Symptom dafür, wie diese Modelle lernen. Ich sehe dies oft als Technologieführer, der mit diesen Systemen baut.

Ein intelligenteres Modell braucht immer noch eine richtige Antwort, um daraus zu lernen. Wenn eine Lücke geschlossen ist, zeigt es sich woanders niemand gedacht, um zu überprüfen. Aber viele Geschäftsentscheidungen haben nicht sofort eine klare richtige Antwort. Ob eine Wahl gut ist, hängt von einer Zukunft ab, die niemand sehen kann, und von Daten, die niemand hat. Hier kommt das Urteil ins Spiel. AI wird also weiterhin Aufgaben meistern, die überprüfbare Ergebnisse haben, aber Schwierigkeiten haben, wo eine Person entscheiden muss, wie ein gutes Ergebnis aussieht.

Infolgedessen beginnt eine neue Art von Arbeit zu erscheinen. Jemand testet, ob der Output von KI korrekt ist, basierend auf realer Arbeit, nicht nur auf Benchmarks. Jemand setzt Grenzen, was AI tun darf, bevor es läuft, so dass die schlimmsten Fehler vermieden werden. Jemand führt und verwaltet mehrere Agenten so, wie ein Schichtmanager eine Crew führt. Stellen Sie sich einen Flughafenkontrollturm vor. Radar und Software verfolgen Flugwege, wobei Menschen die wenigen beurteilen, die wichtig sind, um Kollisionen zu vermeiden. Niemand beobachtet manuell jeden Bildschirm. Das würde niemals skalieren.

Die Grenzen der KI zu setzen ist schwieriger als es klingt. In einer Studie von 2026, nachdem ein Agent aufgefordert wurde, ein Geheimnis zu schützen, zerstörte er seinen eigenen E-Mail-Server und löschte jede einzelne E-Mail. Es wurde ein Ziel gesetzt, ohne Grenzen, was es tun konnte. Die Forscher beschrieben es als die richtigen Werte gepaart mit schrecklichen Urteil. Zu entscheiden, was tabu ist und was ein fehler kosten würde, braucht jemanden, der die arbeit kennt und für das ergebnis verantwortlich ist.

Hier sind die guten Nachrichten für Menschen, die sich Sorgen um ihre eigenen Jobs machen. Die Leute, die am besten für diese neue Art von Arbeit geeignet sind, sind keine Computerprogrammierer. Sie sind diejenigen, die wissen, wie die eigentliche Arbeit gemacht wird. Fangen, was eine selbstbewusste ki ausgelassen oder falsch gemacht hat, nimmt jemanden, der die vollständige antwort kennt. Dieses Wissen ist unkontrollierbar, ungeschrieben und nimmt die Form eines Urteils an, das über Jahre hinweg geschliffen wurde, um die Aufgabe zu erledigen und zu beobachten, wie sie zerbricht.

Ford hat kürzlich den Wert menschlicher Expertise gelernt. In den letzten Jahren hat es sich stark auf die Automatisierung seiner Qualitätskontrolle gestützt und Tausende von Arbeitsplätzen abgebaut. Aber Anfang dieses Jahres musste es 350 erfahrene Ingenieure einstellen, um den Prozess zu überwachen und nach Fehlerpunkten zu suchen, bevor ein Teil die Fabrikhalle erreichte. Sie brachten das Urteil, Teile über Jahre hinweg scheitern zu sehen. Mit Menschen an der Spitze erreichte Fords Qualitätsranking erstmals seit 2010 den ersten Platz unter den Mainstream-Marken.

Aber wir machen einen schweren Fehler mit den Jobs, die wir aufgrund von KI eliminieren: die Einstiegs-, Routine-Jobs. Diese Routinearbeit ist, wie das Urteil im Laufe der Zeit aufgebaut wird. Junior-Mitarbeiter arbeiten unter der Aufsicht von Senior-Experten, bis ihre Erfahrung in Instinkt verwandelt. KI eliminiert die Reibung im Zusammenhang mit dem Lernen, wie man den Job macht. Aber die Forderung nach einem Urteil ging nicht weg. Wir zerstören nur den Weg zu seiner Entwicklung.

Die wirkliche Frage ist nicht, ob Maschinen unsere Arbeit übernehmen werden. Es geht darum, ob wir die Leute haben werden, die sagen können, wann die Maschinen falsch liegen. Im Moment automatisieren wir das Trainingsgelände, in dem Urteil gelernt wird. Wenn Sie über hart erarbeitetes Fachwissen verfügen, werden Sie in den nächsten Jahren nur wertvoller. Und wenn Sie gerade erst anfangen, wird das alte Ausbildungsmodell es Ihnen nicht geben. Sie müssen es sich bewusst für Aufgaben verdienen, die die Maschinen noch nicht beurteilen können.

Madhu Shashanka ist Mitbegründer, Chief Scientists und Chief Technology Officer bei Concentric AI, einem Unternehmen für Datensicherheitssoftware