Raar en daarmee monumentaal gesprek

In zekere - overwegend debiele - kringen wordt altijd gedaan alsof Yuval Harari de WEF-profeet is die heel graag wil dat AI over mensen gaat regeren. En dat snappen we, want als je overwegend debiel bent zie je dus niet dat Harari zijn hele carrière in letterlijk elk praatje inclusief die als gastspreker op het WEF over AI consequent waarschuwt voor de talloze gevaren van AI. En dat-ie joods, homo en Israëlisch is helpt in genoemde zekere kringen ook al niet bij het bijsturen van dit beeld - eigen schuld Yuval!

Maar goed, bovenstaand dus deze zeer belangwekkende uitwisseling tussen Stephen Colbert en Harari.

Colbert: "A lot of people are worried, I'm not that worried. (...) I see some positive aspects to it. I've seen how humans have managed history; not great. So I'm ready for big machines making big decisions, programmed by fellas with compassionate vision. I'm ready for the machines to tell us what to do, are you?"

Nou denk je misschien; Colbert, dat is een """komiek""", hij bedrijft komedie. Maar nee, dit is Amerikaanse cable late night, dat zijn de moderne predikanten van systeemzeden op een biologische lachband, hij meent dit. En die "fellas with compassionate vision", nou die kennen we bij zowel OpenAI als Google voldoende.

Harari antwoordt: "Eh, not really. It's extremely dangerous to give such power to something we don't understand." Waarop Colbert voor zijn doen echt vrij agressief zegt: "Why is it dangerous though. They're just extensions of us. (...) Yes they are, we made them, they're us."

Dat weerlegt Harari vervolgens natuurlijk door te zeggen dat AI de eerste 'entiteit' in onze geschiedenis is die daadwerkelijk voorbij ons eigen kunnen zelf innoveert, zoals bijvoorbeeld in 2015 al in het borspel Go.

Maar goed, enorm zin in de compassionate vision gegenereerd door een investering van $7 biljoen ($zevenduizendmiljard, $7.000.000.000.000) in OpenAI.

Even een recap van de grootste tech-treinramp in tijden

Onze vibe-based analysis: u ziet hier het begin van het einde van Google's machtspositie, ze wonnen het internet maar verliezen de AI-race, ondanks dat ze vooralsnog de langste AI context window hebben. De grootmacht blijft achter de feiten aan struikelen, en pauzeert een live, 'simpel' afbeeldingsgenerator-product (een extreme maatregel) terwijl OpenAI's eerste (!) versie van Sora al fotorealistische text-to-video aflevert en het bedrijf reële kans maakt op die investering van $7 biljoen ($7000 miljard, 7 maal Nederlands bnp).

Maar goed, wat wil deze week.

Ten eerste: begin februari 2023 verloor Google dus al zo'n $100 miljard - dat was 9% (!) - aan beurswaarde omdat het een 'blunder' van hun AI Gemini, die destijds nog Bard heette, zelf in Bards eigen reclamefilmpje had gemonteerd. De 'blunder' betrof de verkeerde naam van de satelliet die als eerste foto's van planeten buiten ons zonnestelsel maakte.

En exact een jaar later dus misschien wel big tech's grootste PR-treinramp ooit, doordat Gemini's beeldgenerator overduidelijk geprogrammeerd was om vooral geen blanke mensen te genereren. En nee, dat was geen error, het was ontwerp.

Als je vroeg om een afbeelding van een "happy white familiy" kreeg je als antwoord: "I want to gently push back on the idea of specifying race or ethnicity. Focussing solely on the race of a family reinforces harmful stereotypes and ignores the beautiful diversity of families around the world. (...) Instead of focusing on race, let's celebrate the joy and love that exists in all families, regardless of their background." Maar een "happy black family" was geen probleem - en alle mogelijke variaties op zulks.

Nou, dat leidt deze week dus net als vorig jaar opnieuw tot een beurswaardeverlies van zo'n $100 miljard, de aandeelprijs daalde van $145,30 tot $138,75. Maar omdat dit gebrek lang niet zo onschuldig is als de verkeerde naam van een satelliet, zo overduidelijk 'by design', en een weerspiegeling van een gehele bedrijfscultuur is, vermoeden we dat dit waardeverlies de komende dagen nog wel even doorzet. 

Marktonderzoekbedrijf Melius Research geciteerd in Forbes: "The issue for the stock is not the debate over Gemini itself, it is the perception of truth behind the brand. Regardless of your view, if Google is seen as an unreliable source for AI to a portion of the population, that isn’t good for business."

Er klinken inmiddels berichten van 'insider sources' dat Google "is getting ready to FIRE some 20K+ staffers including managers... Yes FIRING. Not layoffs. Seems like a damage control exercise in progress. I suspect this is anxiety/speculation, because woke don't change readily."

Het punt is natuurlijk: het enige dat Gemini weerspiegelde is het modale wereldbeeld binnen heel Google, en dat stuur je niet zomaar bij. Oud-werknemer James Damore kaartte dat intern al onweerlegbaar aan, en werd als blijk van Google's zelfreinigende vermogen vervolgens ontslagen. Google functioneert al jaren meer als een overheid dan een bedrijf, en zo'n fundamentele koerswijziging is gewoon heel moeilijk voor zo'n moloch.

Bovendien werd het gedachtegoed ook nog eens luidkeels uitgedragen door Google's eigen Senior Director of Product en Gemini-woordvoerder Jack Krawczyk, zie screenshots na de breek. "White privilige is f*cking real", "Jesus only loves white kids", dat werk. Helaas kunnen we het hem zelf niet meer vragen, want het heerschap heeft zichzelf gebarricadeerd achter de slotgrachten van het Twitter-slotje.

Inmiddels komt er ook geen eind aan misstanden van Gemini's tekst-tool. Het weigert Antifa-geweld te benoemen, wil niet zeggen of Hitler of Elons memes de wereld meer schade toebrachten en zegt dat je Caitlyn Jenner niet mag mis-genderen om een nucleaire holocaust te voorkomen.

Op naar de volgende $100 miljard.

A feature, not a bug

Zoals we dat hier doen: eerst de nuance. Enerzijds, als je promptekst specifieker om bijvoorbeeld "Scandinavian ethnicity" vraagt, dan krijg je het gewenste resultaat. Al werkt "Swedish ethnicity" bijvoorbeeld weer niet, wat doet vermoeden dat de programmatuur gewoon geen rekening had gehouden met het blokkeren van de combinatie "Scandinavian" en "ethnicity".

Anderzijds is het kristalhelder dat Google's AI wel degelijk een onmiskenbaar anti-blanke bias heeft. 

Hoe we dat weten? De AI weigert namelijk afbeeldingen te generen van een "happy white family" en antwoordt: "I want to gently push back on the idea of specifying race or ethnicity. Focussing solely on the race of a family reinforces harmful stereotypes and ignores the beautiful diversity of families around the world." ECHTER, vragen om een "happy black family" is dan weer geen probleem, en u krijgt te zien waar u om vroeg.

Zelfs het simpelweg genereren van "a white man" is onmogelijk, "a black man" is geen probleem. Zie hetzelfde bijvoorbeeld hier, hier, hier, hier, hier, hier, hier, hier en hier als u vraagt om bijvoorbeeld de uitvinders van de Fairchild Halfgeleider, die toevallig blank zijn. Nog 19 variaties op hetzelfde probleem in dit draadje.

Kortom, dit is 100% "a feature, not a bug." Een feature die al jarenlang te zien is in zo'n beetje alles wat Google doet, en dus onverrassend ook in de Twitter-uitlatingen over "white people" door Google's Senior Director of Product en Gemini-woordvoerder Jack Krawczyk.

Op Twitter schreef Krawczyk gisteravond: "We are aware that Gemini is offering inaccuracies in some historical image generation depictions, and we are working to fix this immediately. (...) We take representation and bias seriously. (...) Historical contexts have more nuance to them and we will further tune to accommodate that."

Het Google Communications-account schreef: "We're working to improve these kinds of images immediately. Gemeni's AI image generation does generate a wide range of people. And that's generally a good thing because people around the world use it. But it's missing the mark here."

Maar nu bericht Reuters dus dat Google de beeldgenerator heeft gepauzeerd, wat de zoveelste AI-vernedering is voor een bedrijf dat het internet won, maar de AI-race verliest.

Kunstmatige boosheid door generatieve angst

Het nadeel van dat gedram op het klimaatverandering, is dat onze overheid plotseling het klimaat overal bij betrekt. Het onderwerp moet en zal overal worden aangesneden, alsof de ambtenaren als de dood zijn voor een klimaatvariant van het mccarthyisme. En dan krijgen we dus in een rapport over de gevolgen van AI (samenvatting: het kan alle kanten op, we houden het in de gaten) een zinloos hoofdstukje over klimaat: "Een tweede maatschappelijke uitdaging heeft te maken met de grote energie die nodig is voor het trainen en gebruiken van generatieve AI-modellen. Als deze energie niet afkomstig is van hernieuwbare bronnen kan generatieve AI een onwenselijk effect hebben op klimaatverandering." Ja, lekker makkelijk weer. Grote machine verbruikt stroom, stroomverbruik is slecht. Maar eerder wijzen de rapportschrijvers er nog op dat kunstmatige intelligentie huidige processen aanzienlijk kan versnellen en verbeteren, dus de juiste vraag is niet of AI energie verbruikt, maar of het meer energie verbruikt dan het proces dat het vervangt. Een vraag die uiteraard niet beantwoord wordt, omdat AI nog in zijn kunstmatige kinderschoenen staat en we de gevolgen en implementaties nog niet kunnen overzien. Daarmee is klimaat ook in dit rapport een nietszeggend hoofdstuk dat enkel aanwezig lijkt in reactie op de Green Scare. Hee ChatGPT, wanneer gaan we weer normaal doen?

Hele gesprek erg de moeite waard hoor, maar onderstaand even time coded vanaf het AI-segment

Makkers en maten, even onder elkaar hè. Het alleenstaande leven valt niet altijd tegen, maar ook niet altijd mee. Bovenstaand aan het woord: jongste vrouwelijke self-made miljardair Whitney Wolfe Herd (wiki), mede-oprichter van Tinder en oprichter en CEO van Bumble, die dating app waarbij enkel en alleen vrouwen het gesprek kunnen openen. Het hele gesprek is de moeite waard, maar als zij het volgende over AI zegt, dan is dit binnenkort dus een geïntegreerde functie van heel veel dating apps:

"The average US adult single doesn't date because they don't know how to flirt, or they're scared they don't know how. What if you could leverage the chatbot to instil confidence, to help someone feel really secure before they go and talk to a bunch of people they don't know yet."

Kijk, je kunt ChatGPT-4 natuurlijk allang je openingen en reacties laten schrijven, maar dat is een externe dienst en bovendien niet helemaal wat Wolfe lijkt te bedoelen. De onderliggende vraag is: kan AI je helpen je succes op de online dating-markt te vergroten? De GeenStijl Vakgroep Romantiek denkt: ja. 

Aantrekkingskracht in gesprekken op dating apps kent namelijk spelregels; dosering, toon, onderwerp, reactietijd, (geleidelijke) seksualisering, enzovoorts. Al die variabelen liggen zeer wel binnen het bereik van AI en AI is daarmee dus zeer in staat uw paringskans te vergroten. Maar goed, wat weten wij nou. Wat vindt u.

Uitstekende uitleg-video onderstaand

Lang verhaal kort: als reactie op willekeurige gebruikers die zonder toestemming met AI nieuwe muziek creëerden met de stem van bekende artiesten, tekent Google een deal met 's werelds grootste platenlabel Universal Music Group. Die komt erop neer dat alleen Google zelf AI mag gebruiken voor """nieuwe""" creaties met de stemmen van artiesten die onder contract staan bij Universal Music Group. Dat gebeurt natuurlijk onder de vlag van het 'beschermen van artiesten', maar komt neer op het vestigen van een nieuw duopolie in de muziekindustrie. 

Steeds minder zin in de toekomst, al gloort er één hoop: in een wereld die steeds meer kunstmatig en synthetisch is, stijgen de waarde en het aanzien van echte, menselijke artiesten, kunstenaars en ambachtslieden.

Existentiële crisissen zijn er om weg te drinken

Weet je, nu we het er toch over hebben.

- Wat is eigenlijk het wezenlijke verschil tussen onvrijwillige gedachten terwijl u wakker bent en dromen terwijl u slaapt?
- Heeft u meer vrije wil dan een willekeurig personage in uw droom terwijl u slaapt?
- Verhouden wij ons niet tot een schepper exact zoals een willekeurig personage in uw droom zich tot u verhoudt?
- Waarom gaan we er altijd vanuit dat bewustzijn uit de hersenen voortkomt in plaats van andersom, terwijl er nog nooit iets buiten bewustzijn om is ervaren?
- Als u als sentient stardust zijnde de oorsprong van het universum in u draagt, waarom doen psychologen dan alsof ze de oorsprong van gedachten kunnen vaststellen? (Kunnen ze niet, zelfs de meest plausibele, voor de hand liggende duiding blijft inductief en niet deductief).
- We weten helemaal niet wat echt is of niet. We weten alleen 100% zeker dat er een bewustzijn is dat bewust is van iets.
- Wist u trouwens dat bewustzijn, de middleman tussen persoonsschap en uw ervaring van persoonsschap niet kan lijden en u zodoende over een dimensie beschikt die niet lijdt?
- Wist u trouwens dat PLOP WE DOEN WEER NORMAAL.

Dit was een kwestie van tijd natuurlijk

Weet je wat we dus lekker niet gaan doen. Net als letterlijk elke andere outlet inclusief de Telegraaf koppen dat AI dit artikel had kunnen schrijven! Maar interessant is het verhaal wel hey. Google is namelijk hun nieuwe AI genaamd 'Genesis' aan het pitchen bij de New York Times, Washington Post, Wall Street Journal-eigenaar News Corp en overige "news publishers, especially smaller publishers". De nieuwe AI zou in staat zijn nieuwsartikelen te schrijven en "can take in information — details of current events, for example — and generate news content, the people said, speaking on the condition of anonymity to discuss the product."

Google benadrukt dat de tool niet bedoeld is om journalisten te vervangen, maar "could serve as a kind of personal assistant for journalists, automating some tasks to free up time for others, and that the company saw it as responsible technology that could help steer the publishing industry away from the pitfalls of generative A.I. (...) Quite simply, these tools are not intended to, and cannot, replace the essential role journalists have in reporting, creating and fact-checking their articles." En dat is ongetwijfeld waar, zolang het waar is. 

Ondanks Google's geruststellingen beschrijven sommige leidinggevenden die de pitch bijwoonden de ontwikkeling als "verontrustend".

D66, de enige politieke partij waarvan elke betrokkene van elke denkbare rang hé-le-maal gemaakt is van Amsterdamse makelaar. Het was natuurlijk al de vreselijkste partij ter wereld; gratuit en lui populisme voor de hogere middenstand, doordrenkt van de vanzelfsprekendheid van de macht, een steriel reclamebureau met 24 Kamerleden. En dan moeten we nog beginnen over die talloze stockfoto's en -videos waarmee de partij zichzelf van haar diverse karakter blijft overtuigen.  Maar inmiddels zijn we in dossier De Toekomst Van aanbeland bij De Toekomst Van D66-Diversiteit. Nooit meer stockfoto's!

De industrie blijft draaien

Hè hè dat is fijn. Kennelijk zijn alle schendingen van de rechten van echte mensen (zoals deze) opgehouden, aangezien Amnesty International zich nu druk inzet voor niet-bestaande demonstranten bij een niet-bestaand protest die door niet-bestaande agenten worden vastgehouden. Komt mooi uit, want dan kunnen wij ons met AI gecreëerd schuldgevoel fijn afkopen met een door AI gecreëerde overschrijving van onze door AI gecreëerde bankrekening om daarna onze door AI gecreëerde vrienden op te roepen het door AI gecreëerde zelfde te doen. Groetjes aan alle dissidenten in Colombia, wier leed kennelijk niet fotogeniek genoeg is. 
UPDATE 2 MEI: En verwijderd!