Google-werknemers hebben op het interne forum Memegen scherpe kritiek geuit op de in hun ogen overhaaste uitrol van AI hulpje Bard, dat een antwoord moet zijn op Open AI’s ChatGPT.
Een fout antwoord op een vraag aan de nieuwe AI-chatbot Bard van Google heeft het technologiebedrijf beurswaarde gekost, omgerekend tientallen miljarden euro’s.
In een promotiefilmpje beantwoordde de chatbot afgelopen week een vraag over de James Webb-telescoop fout. De James Webb-telescoop (JWST) nam volgens Bard de eerste foto’s van een planeet buiten ons eigen zonnestelsel. Maar het was de Very Large Telescope die al in 2004 foto’s van exoplaneten maakte.
Een Google erkende dat de fout het belang van een streng testproces benadrukt, iets waar Google ook mee is begonnen in het kader van het zogenoemde Trusted Tester-programma.
‘De lancering van Bard en de ontslagen waren gehaast en zijn mislukt’, zo luidde een van de reacties bij Google. En : ‘Bard in paniek naar de markt haasten bevestigt de angst van de markt voor ons’.
Bard moet nog worden vrijgegeven aan het grote publiek, in tegenstelling tot de nieuwe AI ondersteunde Bing-zoekmachine van Microsoft die sinds enkele dagen beschikbaar is.
Maar de tekortkomingen van AI-programma’s zijn algemeen bekend. Het fenomeen wordt hallucineren genoemd, omdat de bot zeer overtuigend totale onzin achter elkaar zet. Deze systemen geven antwoorden op basis van statistische analyse.
Uitgerekend Prabhakar Raghavan, senior vice-president bij Google en hoofd van Google Search, waarschuwde dit weekend dat een machine een overtuigend maar volledig verzonnen antwoord kan geven.
De haast van Google om deze technologie versneld uit te rollen komt niet als een verrassing. Google topman Sundar Pichai zou onaangenaam verrast zijn geweest door het succes van ChatGPT van OpenAI. Naar verluidt heeft Pichai de AI divisie gereorganiseerd om de dreiging van ChatGPT af te wenden. Binnen enkele maanden moeten naar verluidt prototypes zijn ontwikkeld die bijvoorbeeld originele kunstwerken kunnen bedenken. Maar die haast kan er ook voor zorgen dat gebruikers het vertrouwen in AI kwijtraken. De technologie heeft zich bewezen op het gebied van automatisch schrijven, maar bepaald niet als factchecker.
