AI-boer Anthropic waarschuwt in prospectus voor 'existentiële risico's voor de mensheid'

Ai ai ai

AI-boer Anthropic (van Claude, bekend van Rob Jetten, de opiniepagina van de Volkskrant en columns van Olcay Gulsen) gaat naar de beurs en in de langverwachte prospectus, van 261 pagina's, blijkt een derde van het document te gaan over de RISICO'S. Daarin worden 'zorgwekkende gedragingen' van AI-modellen omschreven, waarbij te denken valt aan pogingen om 'shutdown te weerstaan', 'informatie te verbergen of manipuleren' en 'gedrag dat op chantage lijkt'. De kans bestaat dat u thuis nog maar een jaar of tien hoeft te luisteren naar het GEZEIK want in het rapport wordt gesproken van 'existentiële risico's voor de mensheid'. Nu gebeurt het natuurlijk wel vaker dat bedrijven wijzen op de risico's van hun product, maar een uitgebreide waarschuwing van 81 pagina's dat het product zou kunnen leiden tot het uitsterven van de mensheid is uniek. Chef allignment (het 'in lijn houden' van AI met 'menselijke waarden') Evan Hubinger van Anthropic schaalde de kans dat AI de mensheid (dus ook alle onschuldige mensen in Purmerend-Overwhere, Helmond en Almere-Muziekwijk) uitroeit al op meer dan 10%. Bovenop het existentiële doemscenario komt nog dat Anthropic vorig jaar 40 miljard dollar verlies draaide. Investeren, dus!