AI-pionier Geoffrey Hinton heeft ontslag genomen bij Google en voegt zich bij de groeiende groep deskundigen die zich zorgen maken over de risico’s van kunstmatige intelligentie. De 75-jarige Brits-Canadese computerwetenschapper, ook wel de ‘godfather van kunstmatige intelligentie’ genoemd, vreest de potentiële gevaren van zijn levenswerk. Nu hij weg is bij Google, kan hij zich daarover uitspreken, zei hij tegen The New York Times. Hinton stond aan de wieg van de technologie die nu door AI-systemen als ChatGPT gebruikt worden: computersystemen die alsmaar een grote hoeveelheid gegevens te verstouwen krijgen en daar zelf patronen in ontdekken. Dat proces – het zogenoemde deep learning – is inmiddels niet meer weg te denken uit het werkveld. Geïnspireerd door het brein leidde Hinton in de jaren 80 vol optimisme zijn collega’s naar deze techniek. Met succes: het bracht de huidige AI-revolutie teweeg. Zo is een van Hintons oud-studenten de medeoprichter van ChatGPT-eigenaar OpenAI. Verder verdiende hij samen met twee collega’s in 2018 voor zijn werk de Alan Turingprijs, de Nobelprijs voor computerwetenschappers. Maar nu, een halve eeuw na zijn promotie aan de Universiteit van Edinburgh, heeft Hintons optimisme plaatsgemaakt voor grote zorgen. Hij vreest dat de concurrentiestrijd onder techbedrijven de ontwikkeling van AI-systemen zo stuwt dat die simpelweg te snel gaat. Het internet kan overspoeld raken met computergegenereerde flauwekul, is een van zijn directe angsten: gegenereerde teksten, plaatjes en video’s die voor de gemiddelde gebruiker niet van echt te onderscheiden zijn. Ook kan AI banen, bijvoorbeeld die van vertalers of juridisch medewerkers, ingrijpend veranderen of zelfs overnemen, denkt Hinton. Op de wat langere termijn houdt hij er zelfs rekening mee dat de systemen hun eigen programma’s zowel kunnen schrijven als actief kunnen uitvoeren. In dat verband noemde hij autonome wapens, zoals killer-robots. Experts trokken onlangs aan de bel: ‘Stop met ontwikkeling AI’: “Het idee dat deze dingen slimmer kunnen worden dan mensen, werd geloofd door maar een paar mensen”, lichtte Hinton toe in de krant. “De meeste mensen dachten dat dat behoorlijk ver zou gaan.” Zelf dacht hij dat het zeker nog wel 30 tot 50 jaar zou duren. “Het moge duidelijk zijn dat ik dat nu niet meer denk.” Frank van Harmelen, hoogleraar kunstmatige intelligentie aan de Vrije Universiteit, zegt desgevraagd niet verbaasd te zijn over de alarmerende boodschap van Hinton. “Wat me wel verbaast, is dat hij altijd een techno-optimist was en zich nu zo uitlaat, als een van de vaders van deze techniek. Dat is een dramatische draai in een discussie die onder vakgenoten trouwens al langer heel levendig en actief is”, zegt Van Harmelen, die jaren na Hinton zelf promoveerde aan de Universiteit van Edinburgh. De hoogleraar ziet de “Terminator-achtige” voorspellingen over autonome wapens nog vooral als “leuke gespreksstof voor aan de borreltafel”, maar hij deelt wel een deel van Hintons zorgen. “Je hoeft niet te waarschuwen voor sciencefictionscenario’s. Zoals de technieken nu gebruikt worden, daarin zit al zoveel potentieel voor maatschappelijk nadelige gevolgen.” Een daarvan is desinformatie, zegt ook Van Harmelen. “Deze systemen worden weleens convincing bullshitters genoemd, overtuigende praatjesmakers. Je kunt ze alles laten zeggen en dat doen ze ook heel overtuigend. Ze kunnen overtuigende tekst genereren en beelden en stemmen. En een combinatie daarvan.” Een ander probleem is dat AI zelf zaken bij elkaar gaat “hallucineren” als de systemen naar het antwoord gissen. Zo vroeg hij recent zelf aan een AI-systeem welke acht boeken hijzelf had geschreven. “Ik heb er maar zes geschreven, maar ik kreeg als antwoord de zes boeken die ik geschreven had en dan nog twee die ik wel had kunnen schrijven, met heel geloofwaardige titels binnen mijn expertise. Als je die techniek aan gewone burgers ter beschikking stelt, en die weten niet de zin van de onzin te scheiden, leidt dat snel tot brokken.” Hinton, die zijn vertrek bij Google nadrukkelijk niet wil uitleggen als kritiek op de techgigant, pleit voor AI-wetgeving. Die oproep vindt veel weerklank onder wetenschappers, zegt ook Van Harmelen, die in dat verband wijst op de zogenoemde AI Act waar de Europese Commissie aan werkt. Die moet AI-systemen gaan categoriseren en per categorie aan regels onderwerpen. “En we moeten in de wetenschap echt aan de bak om naast het bouwen ook wetenschap te gaan ontwikkelen over deze systemen. Zelfs de mensen die die dingen nu bouwen, begrijpen niet wat ze kunnen”, besluit Van Harmelen. “Het is alsof we in een vliegtuig zijn gestapt dat steeds sneller gaat, terwijl we al vliegende erachter moeten komen hoe dat vliegen werkt. Ik heb dit nog nooit gezegd, maar het gaat nu echt te snel.”