Italiano

Che cos'è l'IA LaMDA di Google e perché un ingegnere di Google crede che sia senziente?

Jun 25, 2022

122

Un ingegnere senior di Google ha affermato che l'IA LaMDA dell'azienda è diventata senziente. Che tu lo trovi allarmante o eccitante, è un'affermazione molto audace, e forse difficile da dimostrare anche se fosse completamente vera.

Cos'è LaMDA?

LaMDA è l'abbreviazione di Language Model for Dialog Application. In altre parole, è un modello di linguaggio di apprendimento automatico progettato specificamente per generare un dialogo naturale. I metodi di apprendimento automatico consentono ai computer di scoprire modelli e relazioni nei dati. Quindi, ad esempio, puoi “allenamento” un algoritmo di apprendimento automatico come GPT-3 (un altro sistema all'avanguardia) su tutte le opere di Shakespeare e quindi genera nuovi testi originali che leggono come Shakespeare.

RELATEDChe cos'è l'apprendimento automatico?

Come spiega Sundar Pichai (CEO di Google) in un'intervista a Yahoo Finance, LaMDA è un sistema diverso perché è stato addestrato specificamente al dialogo. L'intento è quello di dare ai sistemi di Google la possibilità di impegnarsi in un dialogo aperto con gli utenti simile a quello umano.

In altre parole, le persone che chiedono ai prodotti Google cose specifiche non hanno per cambiare il modo in cui pensano o parlano. Possono interagire con il sistema informatico nello stesso modo in cui interagirebbero con un'altra persona.

Sotto il cofano, tutti gli attuali modelli di machine learning sono in effetti sofisticati modelli matematici e statistici. Generano algoritmi basati sui modelli sottostanti che scoprono nei dati. Fornisci loro una quantità sufficiente di dati di alta qualità e quegli algoritmi diventeranno straordinariamente efficaci nel fare cose che solo gli esseri umani o altre intelligenze naturali sono state finora capaci.

Perché un ingegnere di Google ritiene che LaMDA sia senziente?

L'ingegnere in questione è Blake Lemoine, che ha pubblicato un'intervista tra lui e LaMDA come parte del suo caso sul motivo per cui LaMDA potrebbe essere senziente. Lemoine ha trascorso mesi a conversare con il software interrogandolo, ponendogli domande complesse e trovando difficile credere che le sue risposte complesse e appropriate potessero essere il prodotto di qualcosa di diverso da un essere senziente.

È meglio che tutti coloro che vogliono capire perché Lemoine si sente in questo modo leggano da soli le risposte di LaMDA per capire perché questa è una posizione così convincente da assumere. Le risposte di LaMDA sono così umane che ricordano l'intelligenza artificiale immaginaria dell'assistente personale di Spike Jonze's Her, una storia in cui un essere umano sviluppa una relazione seria con un'IA conversazionale.< /p>

A parte se le affermazioni di Lemoine su LaMDA abbiano un peso, vale la pena notare che l'intero scopo del design di LaMDA è generare un dialogo aperto naturale e credibile. Quindi, in questo senso, la sua convinzione indica che Google ha ottenuto un successo spettacolare nel generare dialoghi credibili. Se un sistema di intelligenza artificiale ha intenzione di convincere un essere umano che è senziente, è molto probabile che sia uno specificamente progettato per fare proprio questo.

Il problema è che le affermazioni di sensibilità non sono realmente verificabili (o almeno non fattibili, o eticamente verificabili) per una serie di ragioni scientifiche e filosofiche. Per capire perché, dobbiamo guardare brevemente cosa “sensibilità” significa.

Cos'è Sentience?

La parola “senzienza” essenzialmente significa che qualcosa (un gatto, un essere umano o un tappeto magico) ha la capacità di sentire. condivide la stessa radice di “sentimentale” o “sentimento”. La sensibilità non significa solo che qualcosa ha la capacità di percepire. Il tuo termostato quasi certamente non è senziente nonostante la sua capacità di rilevare la temperatura. Invece, la senzienza riguarda l'esperienza soggettiva dei sentimenti, il che implica che c'è un “soggetto” in primo luogo.

È pericoloso rimanere coinvolti nella semantica qui perché è probabile che Lemoine stia usando la parola “senzienza” in modo intercambiabile con concetti distinti come “sapienza,” “intelligenza,” e “coscienza.” Quindi, per amor di discussione, l'interpretazione più caritatevole qui è che Lemoine pensa che Lamda sia un essere consapevole di sé, capace di sentire cose, mantenere convinzioni e altrimenti sperimentare cose in un modo che di solito attribuiamo alle creature viventi.

In un pezzo aggiuntivo, Lemoine discute di ciò che secondo lui LaMDA “vuole” e “crede”, che supporta l'idea che “senzienza” dal suo punto di vista significa più della sua definizione rigorosa del dizionario.

Non capiamo la sensibilità e la coscienza al primo posto

Ecco il punto: sappiamo relativamente poco di senzienza, coscienza, intelligenza e cosa significa essere un'entità che possiede quegli attributi. Ironia della sorte, la tecnologia di apprendimento automatico potrebbe alla fine aiutarci a decifrare alcuni dei misteri sulle nostre menti e sui cervelli in cui esistono.

Per ora, filosofi e scienziati stanno scalzando la “scatola nera” di coscienza, ma sembra ancora essere il risultato di qualcosa di più della somma delle sue parti. La coscienza sembra essere un “emergente” cosa. È un “fantasma” che è generato dall'interazione di molti diversi sottosistemi neurali, nessuno dei quali sembra essere senziente di per sé.

RELATEDDALL-E 2 AI di OpenAI è solo una cattiva notizia per alcuni artisti

Allo stesso modo, l'intelligenza artificiale sofisticata come il sistema di generazione di immagini DALL-E 2 consiste in modelli di apprendimento automatico più semplici che si alimentano l'uno nell'altro per creare il prodotto finale. Il tema della complessità derivante dall'interazione di sistemi più semplici è uno che incontrerai spesso nel mondo dell'IA e, sebbene possiamo avere un'ottima comprensione di come funziona ogni sottocomponente, i risultati finali sono generalmente piuttosto imprevedibili.< /p>

Riconosceremmo anche la sensibilità nell'IA?

Se, per amor di discussione, un'IA fosse effettivamente senziente nel vero senso della parola, saremmo in grado di dirlo? LaMDA è stato progettato per imitare e prevedere gli schemi nel dialogo umano, quindi il mazzo è davvero accatastato quando si tratta di attivare le cose che gli umani associano all'intelligenza simile a quella umana. Tuttavia, ci è voluto molto tempo per considerare i primati non umani e gli animali come delfini, polpi ed elefanti come senzienti, anche se nel grande schema delle cose sono praticamente nostri fratelli.

Un'IA senziente potrebbe essere così aliena che non sapremmo che ne stiamo guardando una proprio di fronte a noi. Ciò è particolarmente probabile poiché non sappiamo quali siano le condizioni di soglia per l'emergere della senzienza. Non è difficile immaginare che la giusta combinazione di dati e sottosistemi di intelligenza artificiale mescolati insieme nel modo giusto possa improvvisamente dare vita a qualcosa che potrebbe essere qualificato come senziente, ma potrebbe passare inosservato perché non sembra tutto ciò che possiamo capire.

Se sembra un'anatra…