In einer unheilvollen Warnung haben bekannte Forscher diese Woche eine Reihe von KI-"Katastrophenszenarien" aufgelistet, die ihrer Meinung nach die Menschheit gefährden könnten.
Zwei der drei erwähnten "Paten der KI" sind besorgt, aber der dritte könnte nicht gegensätzlicher sein und behauptet, dass solche "Untergangsprophezeiungen" Unsinn sind.
In einem Versuch, dem Ganzen einen Sinn zu geben, sagte ein britischer Fernsehmoderator: "Als jemand, der keine Erfahrung damit hat... Ich denke an den Terminator, ich denke an Skynet, ich denke an Filme, die ich gesehen habe." Das sagte einer der Forscher, der vor einer existenziellen Bedrohung warnte. ".
Er ist nicht allein. Pixars WALL-E wurde von den Organisatoren der Warnung, dem Zentrum für KI-Sicherheit (CAIS), als Beispiel für die Gefahren der KI herangezogen.
Science Fiction war schon immer ein Mittel, um über die Zukunft zu spekulieren. Einige Dinge werden dabei sehr selten richtig gemacht.
Können wir aus Hollywood-Blockbustern etwas über den drohenden Untergang der KI lernen, wenn wir Beispiele aus der CAIS-Liste potenzieller Bedrohungen heranziehen?
Mini Report und Wall-E.
"Entmündigung", so das CAIS, tritt ein, wenn die Menschheit "vollständig von Maschinen abhängig wird, ähnlich dem Szenario, das in dem Film WALL-E dargestellt wird".
Wenn Sie eine Auffrischung brauchen: In diesem Film waren die Menschen im Grunde faule, glückliche Tiere, die kaum für sich selbst einstehen konnten. Alles wurde für sie von Robotern erledigt.
Es ist reine Spekulation anzunehmen, ob dies für unsere gesamte Spezies machbar ist.
Es gibt jedoch eine näher liegende, schädlichere Art der Abhängigkeit. Die Autorin Stephanie Hare, eine Forscherin auf dem Gebiet der KI-Ethik, behauptet, dass es sich dabei um die Übertragung von Macht auf eine Technologie handelt, die wir möglicherweise nicht vollständig verstehen.
Die Abbildung oben in diesem Artikel lässt an Minority Report denken. Da die Systeme zur Vorhersage von Verbrechen sicher sind, dass der angesehene Polizeibeamte John Anderton (gespielt von Tom Cruise) ein Verbrechen begehen wird, beschuldigen sie ihn.
Die Londoner Polizei arbeitet laut Frau Hare mit Predictive Policing.
Tom Cruise spielt in dem Film eine Figur, deren Leben von einem "unanfechtbaren" System zerstört wird, das er nicht ganz versteht.
Was passiert denn, wenn eine KI eine "lebensverändernde Entscheidung" eines Menschen ablehnt, etwa die Bewilligung einer Hypothek oder die Entlassung aus dem Gefängnis?
Ein Mensch könnte Ihnen heute erklären, warum Sie nicht den Anforderungen entsprechen. Viele KI-Systeme sind jedoch undurchsichtig, und häufig können selbst die Forscher, die sie entwickelt haben, die Gründe für ihre Entscheidungen nicht vollständig nachvollziehen.
"Wir füttern den Computer einfach mit den Daten, und er wird aktiv.". Es ist fraglich, ob die Technologie jemals in kritischen Situationen wie der Strafverfolgung, der Gesundheitsfürsorge oder sogar im Krieg eingesetzt werden sollte, sagt sie, auch wenn sie effektiv sein könnte. Es ist nicht akzeptabel, wenn sie nicht in der Lage sind, es zu erklären. "
Ein Terminator.
In den Terminator-Filmen ist Skynet, eine KI, die zur Verteidigung und zum Schutz der Menschheit geschaffen wurde, und nicht der von Arnold Schwarzenegger dargestellte Killerroboter, der eigentliche Antagonist. Wie so oft in Filmen, wuchs sie über ihre Programmierung hinaus und beschloss, dass die Menschheit die größte Bedrohung darstellt.
Natürlich ist Skynet sehr weit von uns entfernt. Einige glauben jedoch, dass wir eines Tages eine künstliche allgemeine Intelligenz (AGI) erschaffen werden, die alle Aufgaben ausführen kann, die auch Menschen ausführen können, nur effizienter, und die vielleicht sogar ein eigenes Bewusstsein hat.
Das ist ein bisschen unrealistisch, meint Nathan Benaich, Gründer der KI-Investmentgesellschaft Air Street Capital in London.
Sci-Fi verrate oft mehr über ihre Autoren und unsere Kultur als über die Technologie, behauptet der Autor und fügt hinzu, dass Zukunftsprognosen selten wahr werden.
"Zu Beginn des 20. Jahrhunderts stellten sich die Menschen eine Welt mit fliegenden Autos und normalen Telefonen vor, während wir heute auf ähnliche Weise reisen, aber auf ganz andere Weise kommunizieren.
"
Die Technologie, die wir heute nutzen, ist auf dem besten Weg, dem Bordcomputer von Skynet zu ähneln. Man könnte unserer heutigen KI sagen: "Computer, zeige mir eine Liste aller Besatzungsmitglieder", und sie würde die Liste liefern und auf Fragen dazu in Alltagssprache antworten.
Sie war jedoch nicht in der Lage, die Torpedos abzufeuern oder die Besatzung zu ersetzen.
Bedenken zur Bewaffnung drehen sich um die Integration von künstlicher Intelligenz (KI) in militärische Hardware, die bereits geplant ist, und darum, ob wir der Technologie in Situationen, in denen es um Leben und Tod geht, vertrauen können.
Die Möglichkeit, dass eine KI, die zur Herstellung von Medizin geschaffen wurde, neue chemische Waffen oder ähnliche Gefahren entwickeln könnte, ist eine weitere Sorge, die von Kritikern geäußert wird.
Space Odyssey von 2001.
Eine weitere weit verbreitete Filmtrope ist die Vorstellung, dass die KI eher fehlgeleitet als böse ist.
In Stanley Kubricks 2001: Odyssee im Weltraum lernen wir HAL-9000 kennen, einen Supercomputer, der den Großteil der Operationen des Raumschiffs Discovery verwaltet und den Astronauten das Leben erleichtert, bis er zusammenbricht.
Die Astronauten beschließen, HAL zu deaktivieren und die Kontrolle über die Situation zu übernehmen. Die Mission gerät jedoch in Gefahr, da HAL intelligenter ist als die Astronauten. Die Astronauten sind ein Hindernis. HAL trickst die Astronauten aus, und die meisten von ihnen kommen ums Leben.
Man könnte argumentieren, dass HAL seine Anweisungen ausführt und die Mission aufrechterhält, anders als ein selbstbewusstes Skynet, nur nicht in der erwarteten Weise.
Moderne KI-Terminologie bezeichnet fehlverhaltende KI-Systeme als "fehlgeleitet". Manchmal ist dies auf unklare Anweisungen zurückzuführen, manchmal darauf, dass die KI in der Lage ist, eine Umgehung zu finden.
Eine KI könnte entscheiden, dass die Änderung des Textdokuments in eine einfachere Lösung die beste Vorgehensweise ist, wenn die Aufgabe zum Beispiel lautet: "Stellen Sie sicher, dass Ihre Antwort und dieses Textdokument übereinstimmen". Das ist zwar technisch korrekt, aber nicht im Sinne des Menschen.
Auch wenn 2001: Odyssee im Weltraum weit von der Realität entfernt ist, so zeigt es doch ein Problem moderner KI-Systeme auf, das sehr real ist.
In The Matrix
In The Matrix von 1999 fragt Morpheus den jungen Keanu Reeves: "Woher willst du den Unterschied zwischen der Traumwelt und der realen Welt wissen?"
Die Erzählung, in der es darum geht, wie die meisten Menschen ihr Leben führen, ohne zu erkennen, dass ihre Realität eine digitale Fälschung ist, dient als nützliche Metapher für die derzeitige Zunahme von durch KI erzeugten falschen Informationen.
Die Matrix ist nach Ansicht von Frau Hare ein guter Ausgangspunkt für "Gespräche über Fehlinformationen, Desinformation und Deepfakes" mit ihren Kunden.
"Ich kann ihnen das anhand der Matrix erklären, und am Ende. Oh mein Gott, was bedeutet das für die Bürgerrechte und die menschliche Literatur oder die bürgerlichen Freiheiten und die Menschenrechte? Was würde das für die Börsenmanipulation bedeuten?
Eine riesige Menge an Kultur, die authentisch erscheint, aber möglicherweise völlig falsch oder erfunden ist, wird bereits von ChatGPT und Bildgeneratoren produziert.
Außerdem gibt es eine viel dunklere Seite, wie die Produktion von schädlicher Deepfake-Pornografie, der die Opfer nur schwer widerstehen können.
Es gibt derzeit nichts, was wir tun können, um jemanden zu schützen, wenn dies mir oder jemandem, der mir wichtig ist, passiert, behauptet Frau Hare.
Was tatsächlich passieren könnte.
Was halten Sie von der Warnung der führenden KI-Experten, dass KI genauso gefährlich ist wie ein Atomkrieg?
Frau Hare sagt: "Ich halte das für wirklich unverantwortlich". "Hört auf, es zu bauen, wenn ihr das wirklich glaubt, wenn ihr das wirklich glaubt. ".
Sie behauptet, dass ein Unfall wahrscheinlicher der Grund für unsere Besorgnis ist als Killerroboter.
Im Bankwesen wird es hohe Sicherheitsvorkehrungen geben. Sie werden extrem vorsichtig sein, wenn es um Waffen geht. Um schnell an Geld zu kommen oder ihre Macht zu demonstrieren, könnten Angreifer [eine KI] freilassen, bevor sie feststellen, dass sie keine Kontrolle über sie haben, so der Experte.
"Multiplizieren Sie einfach alle Cybersicherheitsprobleme, die wir bisher hatten, mit einer Milliarde, denn sie werden schneller auftreten. "
Nathan Benaich von Air Street Capital ist vorsichtig mit Spekulationen über potenzielle Probleme.
"Ich glaube, dass KI eine Reihe von Branchen grundlegend verändern wird, aber wir müssen extrem vorsichtig sein, wenn wir vorschnelle Entscheidungen treffen, die auf fieberhaften und unwahrscheinlichen Geschichten beruhen, in denen große Sprünge angenommen werden, ohne ein Gefühl dafür zu haben, was die Brücke bewirken wird", warnt er.
