OpenAI ha rilasciato un nuovo classificatore AI addestrato a distinguere tra testo scritto dall'IA e testo scritto dall'uomo. Il rilascio arriva dopo che ChatGPT, il chatbot AI dell'azienda creato per imitare il linguaggio umano, è diventato virale. Ovviamente, è già utilizzato per generare automaticamente saggi e compiti a casa. Ciò ha portato molte istituzioni educative in tutto il mondo a vietare completamente lo strumento. Questa non è una soluzione infallibile, tuttavia, considerando che gli studenti possono sempre scegliere di continuare a utilizzare lo strumento per i compiti. Poi ci sono anche preoccupazioni più ampie su copyright e plagio. Ecco tutto ciò che devi sapere sull'ultimo strumento di OpenAI per rilevare il testo scritto da una macchina.
Come funziona il classificatore AI?
Il classificatore AI è “messo a punto su un set di dati di coppie di testo scritto dall'uomo e testo scritto dall'IA sullo stesso argomento”, si legge nel comunicato stampa di OpenAI per lo stesso. Questi testi sono stati raccolti da varie fonti ritenute scritte da esseri umani. Ogni testo è stato suddiviso in un prompt e una risposta.
Su questi prompt, OpenAI ha generato risposte da una varietà di diversi modelli linguistici addestrati dall'azienda e da altre organizzazioni. In base alla sua formazione, etichetta il testo come molto improbabile, improbabile, poco chiaro, possibilmente o probabile scritto dall'intelligenza artificiale.
Quanto è preciso il classificatore dell'IA?
OpenAI afferma che per la versione beta pubblica che è stata messa a disposizione di tutti da utilizzare come app Web. La soglia di confidenza è stata mantenuta alta, il che significa che il classificatore contrassegna il testo come scritto da AI solo se è molto sicuro. Questo porta ad alcuni avvertimenti, che OpenAI ha notato.
Storie solo per abbonatiVisualizza tutto
Delhi Confidential: incontra, saluta e partecipa al Parlamento
A Jamtara, vecchi edifici panchayat trasformati in biblioteche e circoli di studio…
Budget 2023: scelta del regime fiscale corretto
3 febbraio 1983, Quarant'anni fa: Rajiv Gandhi si alzaPiano mensile per accedere al budget
In primo luogo, il classificatore non funziona altrettanto bene su testi più brevi di 1.000 caratteri. La precisione è migliore con testi più lunghi, mentre l'affidabilità migliora all'aumentare della lunghezza del testo di input, sebbene anche i testi più lunghi possano essere etichettati in modo errato. Il classificatore AI può persino essere indotto a credere che un testo generato dall'IA sia scritto da un essere umano se è sufficientemente ottimizzato. È vero anche il contrario perché a volte il testo scritto dall'uomo può essere erroneamente etichettato come scritto dall'intelligenza artificiale.
OpenAI rileva inoltre che il classificatore funziona meglio con il testo inglese, in quanto si comporta molto peggio in altre lingue. È inoltre inaffidabile su codice e testo “prevedibile”.
Come utilizzare il classificatore AI?
Per utilizzare il classificatore AI è necessario un account OpenAI, quindi se non lo hai già creato uno, vai al suo sito ufficiale per lo stesso. È possibile accedere allo strumento direttamente tramite platform.openai.com/ai-text-classifier. Basta incollare il testo nel campo di testo sulla pagina e premere Invia. Lo strumento funziona velocemente e ti dirà in pochissimo tempo se il testo è generato dall'IA o meno. Tieni presente quanto segue prima di utilizzare lo strumento:
Pubblicità
- Assicurati che il testo che stai incollando contenga un minimo di 1.000 caratteri, ovvero circa 150-250 parole
- Fai più attenzione con il testo non inglese poiché l'accuratezza del classificatore diminuisce con quelli
- È probabile che il classificatore sbagli su testo scritto da bambini o codice
Il classificatore AI è il primo nel suo genere?
No, uno studente di informatica a Princeton ha precedentemente creato un'app chiamata GPTZero che può aiutare a rilevare se un testo è stato scritto da un essere umano o utilizzando ChatGPT, guidato da preoccupazioni di plagio. È possibile accedere a GPTZero tramite gptzero.me. Sembra funzionare in modo leggermente diverso rispetto allo strumento di OpenAI in quanto si concentra sulla perplessità del testo misurando la casualità. Si presume che il contenuto generato dall'uomo sia più casuale. Come il classificatore OpenAI, anche GPTZero è nelle sue fasi iniziali, quindi il suo output dovrebbe essere preso con le pinze.
© IE Online Media Services Pvt Ltd