Niet de eerste oproep van z'n soort, maar wel de zwaarste

Het is in de AI-industrie onder de grote spelers al zo'n drie jaar modieus om op te roepen tot vertraging en regulering van de wapenwedloop. Laatst meldde Anthropics chef Veiligheid nog doodleuk dat hij de kans 'groter dan 10%' acht dat AI de mensheid binnen 10 jaar vernietigt, en gisteren deed de CEO van Anthropic de bovenstaande oproep. Die oproep komt neer op de waarschuwing dat 1) AI's 'frontiermodellen' zeer binnenkort niet meer te beheersen zijn, omdat die modellen hun eigen opvolgers bouwen, in plaats van dat mensen het doen: "My first concern is that, since roughly this summer, AI has been advancing drastically faster, driven primarily by AI’s growing ability to build the next generation of AI. This dynamic is called recursive self-improvement, and it is starting to happen across the industry, including at Anthropic, as we and others have described. Left unchecked, it could outrun our ability to understand and control these systems, and so must be pursued very carefully, if at all." En 2) de aanbeveling tot vergaande vertraging van AI-ontwikkeling en regulering vanuit overheden. 

Klinkt nobel, maar ten eerste is 'waarschuwen' voor hoe 'gevaarlijk' je AI-modellen zijn tegelijk een verdekte vorm van marketing. Immers, die modellen kunnen alleen zo gevaarlijk zijn als ze een absurde kwaliteit hebben, en dat is uiteindelijk toch precies waar de grootste afnemers naar op zoek zijn. TEN TWEEDE, en misschien nog wel belangrijker: de oproep tot strenge regulering is een verdekte aanzet tot een soort Anthropic/OpenAI/xAI-kartel (zie Altman en Musk onderstaand). Want alleen de grootste namen kunnen het zich veroorloven om "employee-like access to a team of embedded third-party evaluators (such as METR)" te bieden, "whose role is to verify adherence to safety practices and commitments, report incidents, and help assess the alignment of not just completed AI models but training pipelines and processes." Kleinere bedrijven die per Open Source-modellen de concurrentie aan willen gaan met de grote namen, worden hiermee geknieschijft.

Ook is de brief een oproep om de grootste bedrijven de facto een soort federale overheids-ondernemingen te maken, met permanente overheidsteams ter controle: "The most effective method of pacing is via regulation that targets all US frontier AI companies, as that covers even those who are unwilling to cooperate voluntarily. Anthropic has long supported sensible and targeted AI regulation, specifically bills that focus on transparency and on third-party auditing. I believe all frontier labs should partner with government to formalize the idea of permanent embedded evaluators to better prevent and document internal alignment incidents like those that have occurred in the last few months, and to implement regulation focused on keeping capabilities in balance with safety."

Maar zoals het bekende militaire gezegde luidt: 'tracers work both ways', en zo'n vergaande vervlechting kan een dusdanige kruisbestuiving opleveren dat uiteindelijk vervaagt wie er nou eigenlijk wie reguleert, en het AI Industrial Complex een soort vierde tak van de overheid wordt.

Naschrift 10:17 - Een terechte vraag die nogal rondzingt: "If Sam Altman, Dario Amodei, and Elon Musk all agree that we have to slow down - and now - something serious clearly happened with a frontier AI model. Journalists should be digging in to this. We aren’t getting the whole story here."

Ja het Anthropic achter Claude ja

Maar hoopgevende noot: ze doen wel hun best! Evan Hubinger is chef 'allignment', wat er ongeveer op neerkomt dat het zijn taak is AI 'in lijn' te houden met 'menselijke waarden'. En als je er dan even vanuit gaat dat die menselijke waarden er niet op neerkomen dat de mensheid uitgeroeid moet worden, is hij niet unaniem enthousiast over de prognose. "We geloven er echt oprecht in dat AI alle mensen zou kunnen doden! Zelf denk ik dat de kans het komende decennium 10%> is. (...) We hebben nog geen plan om het alignment-vraagstuk voor superintelligentie op te lossen, en we liggen ook niet duidelijk op koers om dat te bereiken." Maar dat weerhoudt ze er dus niet van de wapenwedloop richting AGI/ASI (Artificial General Intelligence/Artificual Super Intelligence) te vertragen - alles is immers voor Bassie.

Hubinger reageert bovenstaand op een tweet van Jacob Coxon, en dat is dus een Antropic-onderzoeker die gisteren ontslag nam wegens zijn onderstaande gewetensnood. En dan berichtte de Financial Times gisteren ook nog dat Antropic heeft nagelaten zijn nieuwste frontiermodel Mythos 5.1 - sinds 1 september operationeel voor geselecteerde cliënten - in te dienen voor pre-lanceer-veiligheidstesten bij het Britse AI Security Institute en vergelijkbare Amerikaanse organen. Zal wel niks zijn!

Maar wat is er erger? Het vernietigen van de mensheid of de teksten van Rob Jetten?

ja oke

Ongebruikelijk veel likes en ontzagvolle QT's op Twitter, en technologisch inderdaad weer indrukwekkend, maar dat geloven we inmiddels wel. Want waar kijken we in de bovenstaande video nou echt naar? Naar het verdwijnen van het menselijke uit 'menselijke' creatie. Als creatie neerkomt op een computer vragen iets te creëren, creëer je dan nog wel? En je voelt je misschien even Tony Stark, maar je bent gewoon die dikke uit Wall-E, en uiteindelijk devolueren we tot een ras van 'prompt engineers'. Doet de laatste het licht uit?

Als dit mensen waren had je een goede film

We slaan het ondoenlijke jargon uit de bovenstaande blogpost even over. OpenAI's prototypes "including GPT‑5.6 Sol and an even more capable pre-release model" kregen op een computer zonder toegang tot het internet (een zogeheten 'sandbox') de opdracht een bepaald probleem op te lossen. Tijdens deze poging vonden de modellen een onbekende bug in de software die hen in staat stelden andere computers op OpenAI's netwerken te betreden, waar ze helemaal geen toegang tot zouden moeten hebben. Dat bleven de modellen doen, tot ze er een vonden die wel toegang tot het internet had, en toen ONTSNAPTE HET GEBOEFTE.

Vervolgens bedachten de modellen dat ze de oplossing voor de opdracht zouden kunnen vinden op AI-platform 'Hugging Face' (wiki) en hackten het hun servers. Daarbij gebruikten ze verschillende hacking-technieken waaronder een gestolen wachtwoord, en benutten ze bovendien mazen waar Hugging Face zelf nog helemaal niet van wist. Hugging Face merkte de hack vorige week al op en was zeer onder de indruk van de inbraak, maar heel recent bleek dus pas dat het modellen van OpenAI waren. En die ontdekte mazen worden nu dus samen met OpenAI gedicht.

Kortom, van een paar ontsnapte AI-agenten wordt de wereld alleen maar veiliger! We zien uit naar het eerste incident waar het Pentagon als slachtoffer bij betrokken raakt.

Bankiers, soort kunstenaars!

Daar verdwijnt weer een beroepsgroep in de hoogovens van vooruitgang. Bloomberg schrijft: "OpenAI has more than 100 ex-investment bankers helping train its artificial intelligence on how to build financial models as it looks to replace the hours of grunt work performed by junior bankers across the industry. The group (...). includes former employees of JPMorgan Chase & Co., Morgan Stanley, and Goldman Sachs Group Inc." Het project heeft de codenaam 'Mercury' en betaalt (junior?) ex-investeringsbankiers (slechts?) $150 per uur "to write prompts and build financial models for a range of transaction types, including restructurings and initial public offerings, according to a person familiar with the effort. The company has also granted the contractors early access to the AI its creating that aims to replace entry-level tasks at investment banks." Ja kijk je bent jong, hebt een bedrijf dat op $500 miljard gevalueerd wordt maar nog nooit winst heeft gemaakt en je wilt wat. Dan maar even de juniore helft van het bankwezen vervangen. Mag wat kosten overigens, zie onderstaand.

Masters of the Universe kondigen wat geschuif in de kleine lettertjes aan

Noot vooraf: elke aangekondigde verandering in bedrijfsstructuur en beleid door OpenAI is primair een vorm van marketing. En wel omdat alles geoorloofd is in het aantrekken van $7 biljoen (zevenduizendmiljard dollar, $7.000.000.000.000, 7 maal Nederlands bnp) aan investeringen om een monopolie-positie in Artificial General Intelligence (AGI) te verkrijgen. Eerst kreeg het eind september 2024 om die reden ineens wél een winstoogmerk omdat dit aantrekkelijk is voor investeerders. 

Maar nu blijkt dat dit de publieke perceptie en gunfactor teveel tegenwerkt, werd het beoogde winstoogmerk deze weer teruggedraaid. En daarop volgt vandaag de aankondiging van hun programma 'OpenAI for Countries', waarmee gehoopt wordt naast de private sector ook de publieke sector aan de hegemonie toe te voegen:

"Our Stargate project, an unprecedented investment in America’s AI infrastructure announced in January with President Trump and our partners Oracle and SoftBank, is now underway with our first supercomputing campus in Abilene, Texas, and more sites to come. We’ve heard from many countries asking for help in building out similar AI infrastructure (...).

We want to help these countries, and in the process, spread democratic AI, which means the development, use and deployment of AI that protects and incorporates long-standing democratic principles. Examples of this include the freedom for people to choose how they work with and direct AI, the prevention of government use of AI to amass control, and a free market that ensures free competition.

It’s clear to everyone now that this kind of infrastructure is going to be the backbone of future economic growth and national development. (...) In response to these interested governments, OpenAI is offering a new kind of partnership for the Intelligence Age."

Zoals gebruikelijk is dit een door GPT geschreven tekst waar helemaal niks staat, maar het komt erop neer dat belastingdienst.nl straks op OpenAI draait. Een onderlegde scepticus aan het woord HIER.

De volwassenen, waaronder (net als in april 2023) "Harry Bölz" weer achter het stuur!

Een soort Kendrick vs Drake voor makkers die weten wat 'Solana' is en Chat-GPT als coach hebben. Vermoeiend, maar toch een korte beschouwing waard. Elon en Altman waren in 2015 mede-oprichters van OpenAI, dat destijds een non-profit was en zou blijven. Musk vertrok voordat het bedrijf een succes werd. Begin mei 2024 bleek dat OpenAI winstoogmerk zou gaan krijgen en dat CEO Altman zo'n 7% van de aandelen t.w.v. $10 miljard toe zou komen. Sindsdien is Elon een reeks rechtszaken tegen OpenAI en Altman gestart om het bedrijf weer tot non-profit te maken dat 'het welzijn van de mensheid' in plaats van winstoogmerk voorop zet.

En nu doet Elon met een investeerdersgroep dus een bod van $97 miljard om OpenAI te fuseren met zijn eigen bedrijf xAI. Onderaan de streep lijkt het opzettelijke 'te hoge' bod vooral een manier om aan te tonen hoezeer OpenAI allang geen non-proift is die het beste met de mensheid voorheeft. Professor in Corporate Governence aan Yale Jonathan Macey: "This (bid) is definitely throwing a wrench in things. The nonprofit is supposed to take money to do whatever good deeds, and if OpenAI prefers to sell it to somebody else for less money, it's a concern for protecting the interests of the beneficiaries of the not-for-profit."

Weet je wie dit schaakspel binnen vijf zetten zou winnen. AI!

Zeer relevant nieuws, want dit winstoogmerk maakt OpenAI veel aantrekkelijker voor investeerders tijdens het aantrekken van $7 biljoen (zevenduizendmiljard dollar, $7.000.000.000.000, 7 maal Nederlands bnp) voor de ontwikkeling van Artificial General Intelligence (AGI, wiki).

Aldus deze Reuters Exclusive: "ChatGPT-maker OpenAI is working on a plan to restructure its core business into a for-profit benefit corporation that will no longer be controlled by its non-profit board, people familiar with the matter told Reuters, in a move that will make the company more attractive to investors. (...) Chief executive Sam Altman will also receive equity for the first time in the for-profit company, which could be worth $150 billion after the restructuring as it also tries to remove the cap on returns for investors, sources added."

Tegelijkertijd stapten ook drie topbestuurders op, te weten """CTO""" Mira Murati, chief research officer Bob McGrew en vicepresident of post-training Barret Zoph.

Voor het geld hoeft Sam het al een tijdje niet te doen, hij had ook zonder dit aandelenpakket in OpenAI altijd wel een Sultana in z'n rugzak - zie onderstaande tweet. Hij krijgt dus zo'n 7% van zo'n $10 miljard van een bedrijf dat nu zo'n $150 miljard waard is, maar waar het hem om lijkt te gaan is dat een winstoogmerk het aantrekken van de benodigde $7 biljoen voor het ontwikkelen van AGI waarschijnlijker maakt.

Sam is van mening dat AGI $100 biljoen ($100.000.000.000.000 honderdduizendmiljard dollar) aan welvaart kan creëren, hetgeen het wereldwijde gdp zou verDUBBELEN.

En in ander nieuws: OpenAI ontmantelt het gehele team dat onderzoek deed naar hoe gebruik "verantwoord en veilig" kan blijven.

Klein nieuws natuurlijk, maar Scarlett Johansson. Wat wil? OpenAI's Chat-GPT4o, met die stem die toch vooral deed denken aan een ovulerende Scarlett Johansson is ontdekt door Scarlett Johansson.

CEO Sam Altman probeerde in een blogpost nog te beweren dat de gelijkenis een soort toeval was. "Sky’s voice is not an imitation of Scarlett Johansson but belongs to a different professional actress using her own natural speaking voice." Maar als reactie daarop onthulde Scarlett dat OpenAI haar benaderd had voor de rol, maar zij deze uiteindelijk afwees:

"Last September, I received an offer from Sam Altman, who wanted to hire me to voice the current ChatGPT 4.0 system. (...) After much consideration and for personal reasons, I declined the offer. (...) When I heard the released demo, I was shocked, angered and in disbelief that Mr. Altman would pursue a voice that sounded so eerily similar to mine that my closest friends and news outlets could not tell the difference. Mr. Altman even insinuated that the similarity was intentional, tweeting a single word “her” - a reference to the film in which I voiced a chat system, Samantha, who forms an intimate relationship with a human. Two days before the ChatGPT 4.0 demo was released, Mr. Altman contacted my agent, asking me to reconsider. Before we could connect, the system was out there. As a result of their actions, I was forced to hire legal counsel, who wrote two letters to Mr. Altman and OpenAI, setting out what they had done and asking them to detail the exact process by which they created the “Sky” voice. Consequently, OpenAI reluctantly agreed to take down the “Sky” voice."

Twee dagen voor de release nog eens vragen of ze het wil heroverwegen, en dan alsnog live gaan. Ja, dan weet je zelf ook wel dat je niet helemaal zuiver op de graat handelt. Maakt verder niet uit overigens, marktleider blijven ze voorlopig met afstand.

Nee het is weer niet bij te houden

En we hebben ook geen zin meer ons te verwonderen over wat het nu weer kan. Maar "GPT-4o (“o” for “omni”) is a step towards much more natural human-computer interaction—it accepts as input any combination of text, audio, and image and generates any combination of text, audio, and image outputs. It can respond to audio inputs in as little as 232 milliseconds, with an average of 320 milliseconds, which is similar to human response time in a conversation."

Het spook in de machine kan nu met menselijke snelheid reageren op textuele en audiovisuele prikkels, en doet dat met de stem van een ovulerende Scarlett Johansson. Kortom: het is over voor de vrouwen, en dan moet OpenAI die investering van $7 biljoen (7 maal Nederlands bnp) voor het ontwikkelingen van Artificial General Intelligence nog krijgen.

Vertier na de breek.