Einem Vertreter des KI-Rats der Regierung zufolge müssen einige robuste Systeme der allgemeinen künstlichen Intelligenz (AGI) möglicherweise letztendlich verboten werden.
AGI brauche mehr eingebaute Sicherheitstechnologien sowie strenge Transparenz- und Audit-Anforderungen, sagte Marc Warner, der auch Leiter der Fakultät für KI ist, in einem Gespräch mit der BBC.
Außerdem seien in den kommenden sechs bis zwölf Monaten "vernünftige Entscheidungen" über AGI nötig.
Er äußerte sich, nachdem die USA und die EU erklärt hatten, dass ein freiwilliger Verhaltenskodex für KI dringend erforderlich sei.
Der AI Council ist ein unabhängiges Expertengremium, das der Regierung und führenden KI-Praktikern Ratschläge gibt.
Faculty AI ist nach eigenen Angaben der einzige technische Partner von OpenAI und unterstützt Kunden bei der sicheren Integration von ChatGPT und anderen Faculty AI-Produkten in ihre Systeme.
Während die Tools des Unternehmens bei der Vorhersage der Nachfrage nach NHS-Diensten während der Pandemie halfen, sind seine politischen Verbindungen in die Kritik geraten.
Mr. Warner unterzeichnete einen Brief des Center for AI Safety, in dem er davor warnte, dass die Technologie die Menschheit auslöschen könnte. Faculty AI war eines der Technologieunternehmen, deren Vertreter am Donnerstag in der Downing Street mit Technologieministerin Chloe Smith zusammentrafen, um die Gefahren, Möglichkeiten und Gesetze zu erörtern, die für eine sichere und verantwortungsvolle KI erforderlich sind.
Künstliche Intelligenz (KI) bezieht sich auf die Fähigkeit eines Computers, Aufgaben auszuführen, für die normalerweise menschliche Intelligenz erforderlich ist.
Warner zufolge könnte "enge KI" - Systeme, die für spezialisierte Aufgaben wie Textübersetzung oder die Suche nach Krebs in medizinischen Bildern eingesetzt werden - ähnlich wie andere Formen der Technologie reguliert werden.
Allerdings seien AGI-Systeme - eine radikal neue Technologie - viel bedenklicher und würden andere Regeln erfordern.
Warner weiter: "Das sind Algorithmen, die darauf abzielen, in einem sehr breiten Aufgabenbereich - im Grunde bei jeder Aufgabe - so intelligent wie ein Mensch oder intelligenter als ein Mensch zu sein."
Intelligenz sei der Hauptfaktor, der die Menschheit in ihrer beherrschenden Stellung auf diesem Planeten halte.
Niemand auf der Welt, so Herr Warner, könne eine starke wissenschaftliche Begründung dafür liefern. Warner zufolge kann niemand auf der Welt eine stichhaltige wissenschaftliche Begründung dafür liefern, warum die Erschaffung von Objekten, die so intelligent sind wie wir oder noch intelligenter, sicher sein sollte.
Das bedeutet nicht unbedingt, dass es schlecht ist, aber es deutet auf ein Risiko und die Notwendigkeit von Vorsicht hin.
Die Menge an Rechenleistung, die ohne Einschränkung auf diese Dinge verwendet werden kann, muss zumindest stark begrenzt werden.
Es spricht einiges dafür, dass wir irgendwann beschließen, dass es genug ist und Algorithmen mit einem Komplexitätsgrad oder Rechenbedarf über einem bestimmten Schwellenwert einfach verbieten.
Es liegt jedoch auf der Hand, dass diese Entscheidung von den Regierungen und nicht von den Technologieunternehmen getroffen werden sollte.
Mancherorts wird behauptet, dass die Sorge um die allgemeine künstliche Intelligenz (AGI) die Aufmerksamkeit von Problemen mit bereits bestehenden Technologien ablenkt, wie z. B. Voreingenommenheit bei der Einstellung von KI oder Gesichtserkennungssoftware.
Aber laut Herrn Warner ist dies gleichbedeutend mit der Frage: "Willst du, dass Autos oder Flugzeuge sicher sind? I want both.". "
Andere behaupten, dass eine übermäßige Regulierung Investoren abschrecken und die Innovation ersticken könnte, indem sie das Vereinigte Königreich weniger attraktiv macht.
Aber Herr Warner behauptete, dass das Vereinigte Königreich durch die Förderung der Sicherheit einen Wettbewerbsvorteil erlangen könnte.
"Langfristig setze ich darauf, dass man die Sicherheit braucht, um einen Nutzen aus der Technologie zu ziehen - so wie man die Triebwerke braucht, um einen Nutzen aus dem Flugzeug zu ziehen", sagte er.
Im jüngsten Weißbuch des Vereinigten Königreichs zur Regulierung der KI, das Kritik hervorrief, wurde keine spezielle Aufsichtsbehörde eingerichtet.
Das Vereinigte Königreich könnte "eine Führungsrolle" spielen, so Premierminister Rishi Sunak, der auch die Notwendigkeit von "Leitplanken" betonte.
Die EU-Kommissarin Margrethe Vestager und der US-Außenminister Antony Blinken erklärten am Mittwoch die Notwendigkeit freiwilliger Regeln.
Die Gesetzgebungsverfahren für das EU-Gesetz über künstliche Intelligenz, das zu den ersten gehören wird, die KI regeln, sind noch nicht abgeschlossen.
Die Umsetzung der verschiedenen Rechtsvorschriften werde zwei bis drei Jahre dauern, so Vestager, "und wir reden über eine technologische Beschleunigung, die unvorstellbar ist."
Ein Entwurf für einen freiwilligen Verhaltenskodex werde jedoch in wenigen Wochen vorliegen, und die Industrie und andere Beteiligte würden aufgefordert, sich daran zu beteiligen.
Im Anschluss an die vierte Sitzung des Handels- und Technologierates USA-EU erklärte Herr Blinken, dass es entscheidend sei, dass die USA und die EU sich auf eine Zusammenarbeit einigen. Nach dem vierten Treffen des Handels- und Technologierates zwischen den USA und der EU erklärte Herr Blinken, dass es von entscheidender Bedeutung sei, freiwillige Verhaltenskodizes zu schaffen, die einem "breiten Universum von Ländern" offen stünden. Länder mit ähnlichen Ansichten.
