AI-zoekmachines kunnen niet slagen zonder vertrouwen, en ik heb er geen

Belangrijkste aandachtspunten

• Generatieve AI-zoekmachines kunnen nuttige antwoorden bieden, maar vertrouwen is een belangrijk probleem vanwege de onvoorspelbaarheid.
• Menselijk toezicht blijft cruciaal in zoekresultaten om vertrouwen en nauwkeurigheid te garanderen.
• Zelfs met geavanceerde AI is vertrouwen in technologie belangrijker dan prestatiecijfers.

Generatieve AI is, althans op het scherpst van de snede, effectief in het vinden, verwerken en presenteren van informatie op een nuttige manier voor wie op zoek is naar antwoorden. Maar kunnen we deze technologie in zijn huidige vorm werkelijk vertrouwen? Kunnen we het in principe ooit vertrouwen?

Generatieve AI-zoekmachines geven zorgwekkende resultaten

Iedereen lijkt AI aan zijn zoekproducten toe te voegen. Sommigen, zoals Perplexity AI, hebben hun hele systeem gebouwd rond generatieve AI en Large Language Models (LLM's). Gevestigde zoekorganisaties, met name Bing en Google, hebben deze technologieën aan hun bestaande zoekmachines toegevoegd.

Google biedt nu bijvoorbeeld AI-samenvattingen aan waarbij de LLM webpagina's leest, zodat u dat niet hoeft te doen, en u een direct antwoord op uw vraag geeft. Afgezien van de manier waarop dit de daadwerkelijke websites die de inhoud produceren buiten beschouwing laat, is het, als het werkt, verbazingwekkend nuttig. Maar net zoals AI-chatbots gevoelig zijn voor ‘hallucinaties’; of het maken van logica- en redeneerfouten, AI-zoekopdrachten kunnen ten prooi vallen aan dezelfde problemen.

Dit heeft ertoe geleid dat de Google-zoek-AI dingen suggereert als het toevoegen van lijm aan pizza en het eten van stenen, en dat er katten op de maan zijn. Google op zijn beurt is snel bezig met het wegnemen van deze fouten, maar daarmee wordt het fundamentele probleem – vertrouwen – niet opgelost.

Iemand moet verantwoordelijk zijn voor informatie in zoekresultaten

Geloof het of niet, ik ben een echt mens die achter dit toetsenbord zit en woorden typt die je gaat lezen. Dat betekent dat als je hier iets leest dat niet logisch is, vals is of schade kan veroorzaken, je iemand hebt die er de verantwoordelijkheid voor kan nemen. Op dezelfde manier, als ik informatie gebruik van bijvoorbeeld de Associated Press, en er zitten ernstige feitelijke fouten in dat materiaal, dan kan ik mijn toevlucht nemen omdat ergens in de rij een mens een fout heeft gemaakt of er iets anders is misgegaan om de kwestie uit te leggen.

We weten hoe de informatie is geproduceerd en we weten wie verantwoordelijk was. Er zijn gevolgen als je nalatig bent, en er bestaan ​​systemen (zoals menselijke redacteuren en redactioneel beleid) die bedoeld zijn om problemen op te lossen voordat ze worden gepubliceerd. Natuurlijk zijn geen van deze systemen waterdicht, maar er is altijd iemand verantwoordelijk.

Tot nu toe zijn generatieve AI-systemen geneigd zich op manieren te gedragen die zelfs hun makers niet kunnen voorspellen. Deze miljard- of zelfs biljoen-parametermodellen zijn als zwarte dozen waarvan niemand precies weet wat er zich binnenin afspeelt. Dat is ook de reden dat ze zoveel belofte en kracht in zich dragen, maar het betekent wel dat het moeilijk is om een ​​veilige en betrouwbare oplossing te maken.

Zelfs als zoiets als Google's Gemini voor 99% accuraat en betrouwbaar was, hebben we nog steeds een probleem. Natuurlijk zijn mensen zelf zelden zo betrouwbaar, maar we hebben ook zelden de snelheid en schaal waarmee onze fouten potentieel enorme schade kunnen aanrichten. Bedenk dat Google ongeveer 8,5 miljard zoekopdrachten per dag afhandelt. Als slechts 1% van die zoekopdrachten potentieel schadelijke informatie of advies bevatte, blijven er nog steeds 85 miljoen mensen over die iets problematischs te eten krijgen. Elke dag!

Met andere woorden, de normen die vereist zijn voor systemen als deze om advies en informatie te bieden zonder dat er mensen bij betrokken zijn, zijn zo hoog dat het in feite onmogelijk zou kunnen zijn.

Als mensen AI-zoekresultaten niet vertrouwen, doet technologie er niet toe < /h2>

We kunnen echter de hele dag praten over de prestatiecijfers van deze AI-systemen, en het zal geen enkel verschil maken als ze niet als betrouwbaar worden ervaren. Er zijn veel veelbelovende technologieën die in de mottenballen liggen vanwege een gebrek aan vertrouwen bij het publiek. Nucleaire ongelukken hebben mensen huiverig gemaakt voor kernenergie. De tragedie van de Hindenburg sloeg de laatste spijker in de doodskist voor luchtschepen, ook al zou de overstap van waterstof naar helium een ​​herhaling ervan onmogelijk maken. Als uw technologie eenmaal als onbetrouwbaar wordt ervaren, kan het bijna onmogelijk zijn om die perceptie te corrigeren, zelfs als u de problemen daadwerkelijk oplost.

Mensen op de hoogte houden is onvermijdelijk, hoe slim machines ook worden

< p> Hoe goed AI-technologieën ook worden, ze kunnen nooit goed genoeg zijn om het volledig verwijderen van menselijk toezicht te rechtvaardigen. Niet omdat mensen noodzakelijkerwijs beter werk zullen leveren, maar omdat ik geloof dat mensen hen nooit volledig zullen vertrouwen. We hebben de neiging ons te concentreren op de uitzonderingen in plaats van op de regel, en daarom spelen mensen mee aan de loterij!

Uiteindelijk kunnen de makers van dit soort systemen hun verantwoordelijkheid niet ontnemen als die systemen schade aanrichten. De buck moet ergens stoppen, en de mens zal op de een of andere manier verantwoordelijk moeten zijn. Individuele websites kunnen verantwoordelijk worden gehouden voor hun inhoud, en totdat zoekmachines er goed in zijn geslaagd de meest betrouwbare sites bovenaan de lijst te plaatsen. Het is een positieve spiraal waarin we proberen de hoogste kwaliteit en betrouwbare inhoud te bieden die we kunnen, en zoekmachines belonen ons met verkeer, dat meer inhoud financiert, enzovoort.

Nu lopen AI-samenvattingen van die inhoud het risico de cyclus te doorbreken die kwalitatieve, betrouwbare inhoud produceert en tegelijkertijd potentieel gevaarlijke of misleidende informatie introduceert of herhaalt. Zodra je het vinden van informatie op internet effectief hebt omgezet in een spelletje Russisch roulette, verwacht dan niet dat de mensen die bij je aankloppen bereidwillige spelers zijn.