AI Search is niet de Silver Bullet die Google denkt dat het is, hier is waarom

0
3

Snelle links

  • Google's visie op de toekomst van zoeken wordt aangedreven door AI
  • AI zoeken is de strategie van Google om internetspam te bestrijden
  • Het probleem met AI-zoeken is dat het vertrouwen hallucineert en erodeert < /li>
  • Nuance verliezen met AI-overzichten
  • AI-overzichten kunnen het open internet vernietigen
  • Uiteindelijk willen mensen menselijke ervaringen en content

Google heeft onlangs aangekondigd dat het AI in Search gaat integreren, waardoor u makkelijker de informatie kunt vinden die u nodig hebt zonder eerst door een berg onzinzoekresultaten te hoeven waden. Er zijn echter een paar redenen waarom dat niet zal werken.

De visie van Google voor de toekomst van zoeken wordt aangedreven door AI

Op Google I/O 2024 introduceerde het bedrijf 'Search in zijn Gemini-tijdperk', een manier om te zeggen dat het integreert AI in zoeken. Deze stap was niet verrassend, aangezien Google al een tijdje met het idee van AI Search via Search Genative Experience speelt.

Tijdens de conferentie liet Google een aantal nieuwe experimentele AI-functies zien, zoals planning in Zoeken, AI-georganiseerde pagina's en videozoekopdrachten. De functie die de show stal was echter AI Overviews.

Het idee achter AI Overviews is dat in plaats van meerdere webpagina's te scannen om de informatie die u nodig heeft samen te voegen, Google voor u zal googlen. Het haalt de belangrijkste informatie uit de beste Google-resultaten en geeft u een nette samenvatting. U kunt zelfs de presentatie van deze antwoorden aanpassen om ze duidelijker te maken of ze stap voor stap op te splitsen.

AI Search is Google's strategie om internetspam te bestrijden

Een belangrijke reden waarom Google zich op AI Search stort, is omdat het het ziet als een oplossing voor een van zijn langdurige problemen: internetspam.

Het grootste deel van zijn bestaan ​​is Google in een voortdurende race verwikkeld met internetspammers die voortdurend proberen het systeem te bespelen om een ​​deel van het internetverkeer om te leiden. Elke keer dat Google zijn algoritmen verbetert, vinden deze spammers nieuwe manieren om deze te exploiteren.

Eind 2022 veranderde er echter iets waardoor de machtsverhoudingen verschoven. Open AI onthulde zijn generatieve AI-model ChatGPT en leverde daarmee onbewust de nucleaire codes aan deze internetspammers, waardoor ze snel en goedkoop artikelen konden produceren. Deze spamartikelen scoren misschien niet hoog, maar ze vertroebelen het water, waardoor Google voor iedereen een kwalitatief slechtere ervaring wordt. Dit zou ook kunnen verklaren waarom het altijd aanwezige sentiment dat “Google aan het sterven is” is. is de afgelopen maanden geïntensiveerd.

Google hoopt dat AI Search hiervoor de oplossing zal zijn, maar er zijn enkele problemen met dat plan.

Het probleem met AI-zoeken is dat het vertrouwen hallucineert en erodeert

Toen Google voor het eerst aankondigde dat het AI-overzichten zou uitrollen, was mijn eerste gedachte: “Wat gaan ze doen aan het hallucinatieprobleem?” ;

Het antwoord bleek: niet erg veel. Een tijdje nadat AI Overviews was aangekondigd, merkten mensen dat een van de suggesties in de demovideo als antwoord op een vraag over het repareren van een kapotte filmcamera eerder al je foto's verpestte dan het probleem op te lossen.

Maar daar bleef het niet bij. Kort nadat AI-overzichten begonnen uit te rollen, merkten mensen dat sommige antwoorden belachelijk of zelfs schadelijk waren. Er werd bijvoorbeeld voorgesteld om benzine te gebruiken om spaghetti te maken en dagelijks minstens 2 liter urine te drinken.

Maar wat dan nog? Iedereen weet dat je niet alles moet geloven wat je op internet ziet, en andere chatbots verzinnen ook dingen, dus waarom is dit zo erg?

Dit is het punt: AI-hallucinaties in Search brengen een vertrouwensprobleem met zich mee. Het is één ding als een nieuwe experimentele AI-chatbot af en toe tegen je liegt en informatie verzint. Het is een heel ander verhaal als Google het doet omdat mensen Google vertrouwen.

Google zegt dat het de vreemde AI-overzichtsresultaten heeft aangepakt en aanvullende veiligheidsmaatregelen heeft getroffen, maar ik ben nog steeds sceptisch. Sommige experts zijn zelfs van mening dat hallucinaties niet kunnen worden verholpen en een fundamenteel onderdeel zijn van LLM's. Als dit waar is, zouden we een internettijdperk kunnen betreden waarin je echt niets online kunt vertrouwen, zelfs je zoekmachine niet.

Nuance verliezen met AI-overzichten

De AI-overzichten van Google genereren geen reacties op basis van alleen de trainingsgegevens. Het raadpleegt ook de beste webpagina's op Google. Dit zou hallucinaties moeten helpen voorkomen, maar het brengt ook een nieuw probleem van context en nuance met zich mee.

We zagen dit al gebeuren in de virale 'Hoe voorkom je dat kaas van pizza glijdt?' vraag waarbij de AI voorstelde om lijm aan de pizza toe te voegen. Dit antwoord werd ontleend aan een elf jaar oud bericht op Reddit, dat iedereen in de oorspronkelijke context gemakkelijk zou afdoen als een grap of een trolcommentaar. De AI Overviews van Google ontdoen deze nuance echter en presenteren het als een hard feit op dezelfde gezaghebbende manier als andere opties worden voorgesteld.

Een ander voorbeeld is de aanbeveling van de AI om dagelijks minstens één klein steentje te eten. Opnieuw heeft Google's AI Overviews deze informatie uit de bron gehaald (in dit geval een satirisch Onion-artikel), waardoor de context werd ontnomen en het als een hard feit werd gepresenteerd.

Dit zijn voor de hand liggende blunders, die gemakkelijk als onschuldig kunnen worden afgedaan. Maar wat gebeurt er de volgende keer dat AI Overviews op subtiele wijze iets belangrijks verkeerd interpreteert dat niet zo gemakkelijk te herkennen is?

AI-overzichten kunnen het open internet vernietigen

AI-overzichten bedreigen de gehele bedrijfsstructuur van internet. Websites zijn afhankelijk van advertentie-inkomsten om winst te maken, en deze advertentie-inkomsten zijn afhankelijk van verkeer. Daarom hebben websites een prikkel om geweldige inhoud te maken, waardoor mensen de site blijven bezoeken.

AI-overzichten gooien een sleutel in deze structuur wanneer ze informatie rechtstreeks van websites halen. U hoeft nu niet meer daadwerkelijk een website te bezoeken, waardoor het verkeer en de advertentie-inkomsten afnemen. De natuurlijke ontwikkeling kan zijn dat websites gedwongen worden hun inhoud achter betaalmuren te vergrendelen om in bedrijf te blijven.

Google beweert dat links in AI-overzichten meer klikken genereren dan traditionele vermeldingen, maar ze hebben geen gegevens verstrekt om dit te staven. Het lijkt ook onwaarschijnlijk gezien het feit dat deze links helemaal onderaan de AI-overzichtsresultaten begraven liggen. Zelfs als dit waar is voor pagina's met een lagere ranking, is het moeilijk te geloven wat betreft topresultaten.

Als inhoud achter betaalmuren wordt opgesloten om te overleven, wat gebeurt er dan met het internet? Sommigen zeggen dat dit zou kunnen leiden tot de dode internettheorie, waarbij het enige dat overblijft van het open web een stel LLM's is die elkaars inhoud eindeloos recyclen totdat het internet slechts een onherkenbare stoofpot van woordvoorspellingen is.

Uiteindelijk willen mensen menselijke ervaringen en inhoud

Google heeft goede bedoelingen met AI Overviews. Het probleem is echter dat ze fundamenteel verkeerd begrijpen wat mensen van Search willen: authenticiteit.

Mensen zijn de generieke inhoud beu. Ze willen echte menselijke ervaringen en niet alleen maar uitgebraakt advies. Dat is de reden waarom steeds meer mensen Reddit doorzoeken in de hoop meningen te vinden van echte mensen die echt inzicht hebben in hun problemen.

In plaats van meer AI zou de toekomst van zoeken wellicht beter gediend kunnen zijn met een algoritme dat authentieke inhoud en echte ervaringen beloont.