Google is begonnen met het uitrollen van AI-overzichten naar Google Zoeken in de Verenigde Staten, na maanden van testen als de Search Genative Experience (SGE). De nieuwe functie werkt niet goed, omdat AI-reacties alles aanbevelen, van het eten van stenen tot het gebruiken van benzine in spaghetti.
Google kondigde vorige week tijdens zijn Google I/O-evenement aan dat het generatieve AI-reacties op zoekopdrachten op internet in de Verenigde Staten zou gaan uitrollen, genaamd 'AI Overviews'. Het idee is dat Google de beste webresultaten voor een bepaalde zoekopdracht gebruikt om vragen te helpen beantwoorden, inclusief vragen die uit meerdere stappen bestaan, zonder dat u door meerdere resultaten hoeft te klikken. De uitrol verloopt echter niet goed, omdat de functie AI-overzichten niet goed lijkt te zijn in het bepalen welke informatiebronnen legitiem zijn.
In een zoekopdracht waarin werd gevraagd of kaas niet aan pizza plakt, adviseerde Google om “ongeveer 1/8 kopje niet-giftige lijm aan de saus” toe te voegen. mogelijk omdat het een grapje op Reddit uit 2013 indexeerde over het toevoegen van Elmer's lijm bij het koken van pizza. Het vertelde een andere persoon dat “je één klein steentje per dag moet eten”, zei hij. gebaseerd op een parodieartikel dat vanuit The Onion opnieuw op de blog van een ondergronds ingenieursbureau is geplaatst.
Op de vraag of benzine spaghetti sneller kan koken, zei Google: “Nee, je kunt geen benzine gebruiken om spaghetti sneller te koken, maar je kunt wel benzine gebruiken om een pittig spaghettigerecht te maken”, zei Google. en vermeldde vervolgens een neprecept. In een andere zoekopdracht zei Google: ‘Vanaf september 2021 zijn er geen soevereine landen in Afrika die beginnen met de letter ‘K’. Kenia is echter het land dat het dichtst bij een start met een 'K' komt. geluid.” Dat kan afkomstig zijn van een Y Combinator-post uit 2021 waarin een foutief ChatGPT-antwoord werd geciteerd.
Het AI-overzicht van Google vertelde iemand dat president James Madison 21 keer is afgestudeerd aan de Universiteit van Wisconsin. Toen hem eerder deze maand werd gevraagd 'hoe je snel nierstenen kunt doorgeven', zei hij: er stond: “Je moet ernaar streven om elke 24 uur minstens 2 liter urine te drinken.” Eerlijk gezegd was dat toen AI-reacties nog een experimentele functie waren en nog niet volledig uitgerold, maar de AI-functie lijkt sindsdien niet slimmer te zijn geworden. Ik heb gisteren een Google-zoekopdracht geprobeerd voor 'hoeveel insecten moet ik per dag eten', en het vertelde me: “Volgens Quora eet de gemiddelde persoon elke nacht 15-18 insecten.”
Er is een gemeenschappelijk thema bij deze antwoorden: de AI-overzichtsfunctie heeft geen geweldige context waarvoor bronnen betrouwbaar zijn. Reddit, Quora en andere sites zijn een mix van nuttige informatie, grappen en onnauwkeurige informatie, en de AI kan het verschil niet zien. Dat is niet verrassend, aangezien het niet als een mens kan denken en contextaanwijzingen kan gebruiken, maar deze antwoorden zijn ook slechter dan andere AI-tools zoals ChatGPT en Microsoft Copilot.
Google vertelde The Verge dat de fouten voortkwamen uit ‘over het algemeen zeer ongebruikelijke zoekopdrachten en niet representatief zijn voor de ervaringen van de meeste mensen’. en dat het bedrijf actie onderneemt tegen onjuiste reacties. Mijn zoektocht naar ‘hoeveel insecten moet ik per dag eten’ heeft helemaal geen AI-overzicht meer. Dat lost het probleem echter niet op, het is alleen het handmatig corrigeren van resultaten nadat ze op sociale media viraal zijn gegaan omdat ze op hilarische wijze fout waren. Hoeveel foute antwoorden zullen onopgemerkt blijven?
Gegevensanalyse en het begrijpen van de context zijn een probleem bij alle generatieve AI-tools, maar de nieuwe functie AI-overzichten lijkt bijzonder slecht. Leidinggevenden en technici van Google brachten bijna twee uur door op het podium van Google I/O om de AI-functies op te krikken en het nut en het vermogen van de technologie om ons in elk facet van ons leven te helpen onder de aandacht te brengen. Slechts een week later vertelt de AI van Google ons dat we lijm moeten eten.
Leave a Reply
You must be logged in to post a comment.