Digitale en creatieve bureaus kunnen tot wel vijftig procent goedkoper gaan werken als ze AI omarmen. Maar deze nieuwe techniek stelt economieën en wel voor fundamentele vraagstukken, aldus Yuri van Geest.
De ver vooruitkijkende techdenker, en lid van denkpanels en adviseur van raden van bestuur, deelt zijn visie op AI in dit interview met Emerce. Het is zeker geen hallelujaverhaal. De tijd dwingt ons, zo stelt Van Geest, heel grondig na te denken over onszelf als mensheid en wat we van slimme computers verwachten. Dat er grote maatschappelijke verschuivingen gaan plaatsvinden, dat staat vast.
Een aantal jaar geleden was je enthousiast over – wat heet – de singularity. Als ik het goed uitleg, is dat het moment waarop techniek de mens qua kennis en kunde inhaalt. Zitten we nog ver van dat moment vandaan?
Vroeger kon AI alleen lezen, nu ook schrijven en creëren. Sinds kort kan het veel meer: wijsheid, humor, kunst en cultuur, theory of mind, rationele empathie en complexer logisch redeneren. Dit is de grootste IT-revolutie sinds de opkomst van het internet en mobiel.
Recent heeft Microsoft Research een paper gepubliceerd met daarin de conclusie dat we de eerste zwakke signalen van AGI oftewel Singularity zien. Er is nu zelfs op bepaalde vlakken sprake van emergentie: het ontwikkelen van nieuwe capaciteiten die de ontwikkelaars niet hadden verwacht. Dit zien we versterkt terug in autonome AI-varianten zoals Auto-GPT en BabyAGI. Daarbij werken modellen met elkaar samen zonder menselijke tussenkomst. We kunnen ervan uit gaan dat GPT-10 radicaal beter zal zijn dan de huidige GPT-4, dus komen we steeds meer bij het Singularity-moment zoals verwacht door Ray Kurzweil voor het jaar 2029. Vooral de integratie van GPT-5 eind 2024 in robots en het echte leven zelf zal grote impact hebben.
Mijn inschatting is dat we binnen tien jaar AGI hebben, misschien zelfs sneller.
Echter, machines worden niet zomaar hetzelfde als mensen. Wij beschikken over zaken als bewustzijn, gevoelens, diep begrip, immanentie, verbeelding, creativiteit en visie. De vraag is of deze systemen dit ook kunnen in de toekomst. Ik denk het niet, omdat AI computational, reductionistisch en mechanistisch is.
Wat betekent dit voor creatieve bureaus?
Dit zal het fundament van alle bureaus drastisch herzien. Generatieve AI in brede zin raakt namelijk alle departementen significant maar vooral marketing, design, sales, communicatie, PR en content. Zowel binnen bureaus zelf als hun diensten naar klanten. AI komt letterlijk in het hart van alle bureaus waardoor ze vijftig procent goedkoper kunnen opereren en hun marges kunnen verbeteren. Hun klanten zullen snel lagere tarieven gaan eisen als gevolg van de opkomst van pure AI-driven bureaus.
Een ander gevolg is dat AI experimenteren in overvloed creëert. In theorie verbetert dat de kwaliteit van het werk, al blijft de essentie van het werk nog steeds The Big Idea. Mensenwerk dus.
Tot slot gaan we zien dat juist die bureaus die in menselijk opzicht uitzonderlijk zijn het verschil gaan maken. Dat houdt in: bureaus die het beste zijn in purpose, cultuur, visie, verbeelding, de juiste menselijke vragen stellen, storytelling en het ontwikkelen van een optimaal ecosysteem aan partners.
Zijn we hier als maatschappij klaar voor?
Nee. Op veel gebieden helaas niet. Het voelt momenteel als de populaire Netflix-film ‘Don’t Look Up‘. We ontkennen de komst van Artificial General Intelligence (AGI). Ik maak me zorgen om de disruptie op een brede waaier van zaken. Ik noem er een aantal.
Ten eerste: is alles dat je ziet en hoort nog wel waar? Ik denk dat onderling wantrouwen groeit en vertrouwen afneemt omdat alles moeiteloos fake kan zijn. Zelfs experts en alle mediavormen. Dat is zorgwekkend en daar is nog niet zomaar een pasklare oplossing voor.
In het verlengde daarvan kun je verwachten dat je enige toename van agressie gaat zien, geloof in complotten en waanideeën in de samenleving jegens AGI. Dat zie je bijvoorbeeld in relevante films als A.I., Transcendence en Ex Machina.
Het is ook niet onlogisch dat er een radicale toename ontstaat in ongelijkheid. Je hebt de mensen die de juiste vragen kunnen stellen en de groep die dat niet kan. En om die juiste vragen te kunnen stellen, moet je jezelf constant laven aan informatie, met experts spreken en kritische vragen blijven stellen. De toekomst is in die zin aan nieuwsgierige, ambitieuze, gedreven systeemdenkers.
Een ander risico: cognitieve augmentatie kan tot cognitieve amputatie leiden. Oftewel: we kunnen zelf steeds minder en dat maakt ons afhankelijk en kwetsbaar. En: hoe handig het ook lijkt dat machines werk van de mens gaan overnemen, zo zorgwekkend is het ook. Want een toename in werkloosheid leidt tot de noodzaak tot reskilling en brengt voor de betroffen personen ook zingevingsvraagstukken met zich mee. ‘Wat is mijn rol?’, ‘Wat is mijn doel?’ en ‘Wat is mijn meerwaarde?’ zijn thema’s die mensen dan op grote schaal bezighouden.
Het is in mijn ogen dan ook noodzakelijk dat de politiek zich met urgentie verdiept in AI-materie en -ontwikkelingen. Zonder groot maatschappelijk debat, strategie, regulering en toezicht krijg je enorme problemen.
AI wordt onthaald als een nieuwe impuls van technologische innovatie. Een sprankelend glimmertje dat indrukwekkende, productieve trucjes doet. Maar welke risico’s zie jij op welke fronten ontstaan?
Strijd om macht op tal van terreinen. Je kunt je voorstellen dat een artificial general intelligence in de handen van overheden tot een ongekende wapenwedloop kan leiden. En waarom niet, want waarom zouden militaire R&D-groepen zichzelf inhouden? Een trapje lager kun je denken aan bad actors die AI negatief inzetten. Natuurlijk kunnen dat criminele groepen zijn, maar net zo goed bedrijven, politieke groeperingen of activisten. Algoritmes werken in zwarte dozen. We zien niet wat ze doen, wie ze beheert en controleert. Het wordt gevaarlijk als er veel macht bij een kleine groep mensen ligt.
Dit zijn een aantal grote thema’s, maar je moet niet vergeten dat slimme software zichzelf ook sluimerend als een veenbrandje nieuwe vaardigheden kan aanleren. Wij wéten dat niet, zíen dat niet. Ook niet als die machinerie actief wordt. De impact en beïnvloeding kan zo subtiel zijn dat we er misschien achteraf pas achterkomen dat een machine ons in een bepaalde richting geleidde. Het kan namelijk ook liegen en manipuleren indien dit in de trainingdata zit.
Het beïnvloeden van politiek, lobbies en wetgeving gebeurt nu al. Simpelweg door AI’s te laten zoeken naar wie hoe moet worden beïnvloed voor welk resultaat. Dat is geen science fiction, maar nu al dagelijkse politieke praktijk.
Om het nog simpeler te stellen: het werkgeheugen van een mens verwerkt zo’n vijftig à zestig bits per seconde. Algoritmes op een supercomputer aanzienlijk meer.
Een internationale groep experts roept op een pauze in te lassen met het trainen van AI-modellen. De reden: bezinning, nadenken over eventuele schade. Is dat nog zinvol of al te laat?
Zeer mee eens. De vraag is of dit nog realistisch en haalbaar is, zeker gezien de geopolitiek en onderlinge AI-concurrentie onder bedrijven momenteel. momenteel. We hadden dit eerder moeten doen. Nu is het zaak om een zeer groot maatschappelijk debat voeren, governance en wetgeving regelen op alle niveau en de maatschappij blijven informeren over de ontwikkelingen en daarbij betrekken. Dat zouden we niet voor het eerst doen. In het verleden gebeurde dat ook al met succes inzake klonen.
Moet Nederland of Europa ook op de rode knop drukken? En: welke vragen zouden wij ons moeten stellen?
Alleen als de wereld dit als geheel zou doen. Je kunt de huidige enorme productiviteitvoordelen en kostenreducties door GPT niet negeren omdat dit een te groot concurrentienadeel zou opleveren. De vragen zouden idealiter gaan over het managen van alle AI-risico’s en vooral over hoe wij AI kunnen benutten om de maatschappij radicaal beter, menselijker en goedkoper te organiseren. Denk aan zaken als onderwijs, zorg, wonen, natuur, politie, voedsel en energie. Je ziet dit in het klein gebeuren in de proeftuinen De Buitenboordmotor en TeamNXT.
Dit is leuke materie voor een paar avondjes rumoer bij talkshows, maar dat betekent niets. Welke stemmen, wiens input, moeten we zeker niet over het hoofd zien?
Als je wilt dat ik namen noem dan suggereer ik de volgende: Sam Altman, Yulia Tsvetkov, Max Tegmark, Nick Bostrom, Ray Kurzweil, Ilya Sutskever en Demis Hassabis.
Ik raad je lezers aan hun werk te bestuderen en hun eigen beelden daarover te vormen. Dat kost tijd. Dat snap ik. Veel tijd. Maar het is complexe materie waarvan de inzet zeer verstrekkende gevolgen heeft. Het is nodig om je er echt in te verdiepen, een mening over te vormen en veel over te spreken in je professionele en privé kringen. Er staat veel op het spel.
Kijkend naar de toekomst: Waarop moeten we ons laten afrekenen door de generaties die honderd jaar na ons leven?
De mate waarin we ons tijdig de meest wezenlijke vragen hebben gesteld en oplossingen hebben geïmplementeerd. We moeten proactief alle grote AI-risico’s managen en nadenken over de impact van AI op sociale cohesie en een nieuw post-kapitalistisch-neoliberaal systeem. Dat klinkt wellicht vergezocht, maar ‘denkende en lerende machines’ kunnen de wereld werkelijk zo ingrijpend veranderen. Dat raakt dan ook onze uniek menselijke kwaliteiten, onze ziel en bewustzijn. We moeten gaan denken in termen van impact op het ontwikkelen van meer en betere langetermijnscenario’s en existentiële risico’s zelf.
We moeten gaan denken in termen van het ontwikkelen van meer en betere langetermijnscenario’s en het managen van existentiële risico’s zelf.
Laat ik, ter afsluiting, nog de vrijheid nemen om te wijzen op een event dat we in mei organiseren in Parijs: PAUA.life.
Foto: Kevin Dooley (cc)