Secondo un rappresentante del Consiglio governativo per l'IA, alcuni robusti sistemi di intelligenza artificiale generale (AGI) potrebbero alla fine dover essere messi fuori legge.
L'intelligenza artificiale ha bisogno di una maggiore tecnologia di sicurezza incorporata, oltre che di forti requisiti di trasparenza e di revisione, secondo Marc Warner, che è anche il capo della Faculty AI, che ha parlato alla BBC.
Inoltre, sono necessarie "decisioni sensate" sull'AGI nei prossimi sei-dodici mesi.
Ha fatto queste osservazioni dopo che gli Stati Uniti e l'Unione Europea hanno dichiarato l'urgente necessità di un codice di condotta volontario per l'IA.
Il Consiglio per l'IA è un comitato di esperti indipendente che offre indicazioni al governo e ai migliori professionisti dell'IA.
Faculty AI sostiene di essere l'unico partner tecnico di OpenAI, che assiste i clienti nell'integrazione sicura di ChatGPT e di altri prodotti Faculty AI nei loro sistemi.
Sebbene gli strumenti dell'azienda abbiano aiutato a prevedere la domanda di servizi del Servizio sanitario nazionale durante la pandemia, i suoi legami politici sono finiti sotto esame.
Il signor Warner ha firmato una lettera del Center for AI Safety in cui avverte che la tecnologia potrebbe spazzare via l'umanità. Faculty AI è stata una delle aziende tecnologiche i cui rappresentanti si sono incontrati giovedì con il Ministro della Tecnologia Chloe Smith a Downing Street per discutere dei pericoli, delle opportunità e delle leggi necessarie per garantire un'IA sicura e responsabile.
L'intelligenza artificiale (IA) si riferisce alla capacità di un computer di svolgere compiti che tipicamente richiedono l'intelligenza umana.
Secondo Warner, la "IA ristretta" - i sistemi utilizzati per compiti specializzati come la traduzione di testi o la ricerca di tumori nelle immagini mediche - potrebbe essere regolata in modo simile ad altre forme di tecnologia.
I sistemi di IA, invece, una tecnologia radicalmente nuova, sono molto più complessi e richiederebbero regole diverse.
Come ha continuato Warner, "si tratta di algoritmi che mirano a essere intelligenti come un essere umano o più intelligenti di un essere umano in un dominio molto ampio di compiti - essenzialmente, ogni compito"."
Secondo lui, l'intelligenza è il fattore principale che mantiene l'umanità nella sua posizione dominante sul pianeta.
Nessuno al mondo, secondo Mr. Warner, è in grado di fornire una solida giustificazione scientifica del perché la creazione di oggetti intelligenti come noi o più intelligenti dovrebbe essere sicura.
Questo non significa necessariamente che sia un male, ma indica un rischio e la necessità di cautela.
La quantità di calcolo [potenza di elaborazione] che può essere utilizzata senza restrizioni per questi oggetti deve essere soggetta, come minimo, a forti limiti.
C'è un'argomentazione convincente per cui, a un certo punto, potremmo decidere che quando è troppo è troppo e semplicemente mettere al bando gli algoritmi con livelli di complessità o requisiti di calcolo superiori a una certa soglia.
Tuttavia, è ovvio che dovrebbero essere i governi a prendere questa decisione, piuttosto che le aziende tecnologiche.
Alcuni sostengono che le preoccupazioni per l'intelligenza artificiale generale (AGI) stiano distogliendo l'attenzione dai problemi delle tecnologie già esistenti, come i pregiudizi nelle assunzioni di AI o i software di riconoscimento facciale.
Ma secondo Warner, questo equivale a chiedersi: "Vuoi che siano sicure le auto o gli aerei? Io li voglio entrambi". "Altri sostengono che un'eccessiva regolamentazione possa scoraggiare gli investitori e soffocare l'innovazione, rendendo il Regno Unito meno attraente.
Ma Warner ha affermato che promuovendo la sicurezza, il Regno Unito potrebbe ottenere un vantaggio competitivo.
"La mia scommessa a lungo termine è che, in realtà, per ottenere valore dalla tecnologia, è necessaria la sicurezza, proprio come è necessario che i motori funzionino per ottenere valore dall'aeroplano", ha detto.
Nel recente Libro bianco del Regno Unito sulla regolamentazione dell'IA, che ha attirato critiche, non è stato istituito un organo di vigilanza dedicato.
Il Regno Unito potrebbe svolgere "un ruolo di leadership", secondo il primo ministro Rishi Sunak, che ha anche sottolineato la necessità di "guardrail".
Margrethe Vestager, commissario dell'Unione Europea, e Antony Blinken, segretario di Stato degli Stati Uniti, hanno dichiarato mercoledì la necessità di regole volontarie.
Le procedure legislative sono ancora in fase di completamento per la legge europea sull'intelligenza artificiale, che sarà tra le prime a regolamentare l'IA.
L'attuazione dei vari atti legislativi, secondo la Vestager, richiederebbe dai due ai tre anni, "e stiamo parlando di un'accelerazione tecnologica che va oltre ogni immaginazione"."
Tuttavia, una bozza di codice di condotta volontario sarà disponibile nel giro di poche settimane e l'industria e altri soggetti saranno invitati a parteciparvi.
In seguito al quarto incontro del Consiglio per il Commercio e la Tecnologia tra Stati Uniti e Unione Europea, Mr. Blinken ha dichiarato che è fondamentale creare codici di condotta volontari che siano "aperti" a un "ampio universo di Paesi". Paesi con opinioni simili.
