Tussenstand: de Grote Drie zeggen dat ze gereguleerd en vertraagd willen worden door de overheid, maar de overheid vertrouwt dit niet en wil bovendien geen vertraging

Wordt een vreemd vaarwater hè? Anthropic, OpenAI en Elons xAI willen vergaand gereguleerd en daarmee vertraagd worden, omdat ze allemaal vrezen dat de veiligheid niet te waarborgen is aangezien hun frontiermodellen nu al zelf hun opvolgers bouwen. En daar reageert Trump nu met een van z'n meest uitzinnige posts in tijden als volgt op: "The only control or “guardrails” that AI needs is a STRONG AND SMART (High IQ!) PRESIDENT, and the U.S.A. has that, in spades! The Trump Administration has stopped AI “people” from doing bad, or potentially bad, “things,“ like Dario (Anthropic!), who is now pretending to be a “perfect little angel” - and we will continue to do so! We already have tremendous CRIMINAL and REGULATORY power over these companies! There is a SICK conspiracy going on against AI and Data Centers, and the only one that is happy about it is China. WHOEVER WINS AI, WINS! We are leading China, and all others, and will continue to do so. Conspiracy Theorists, Treasonists, Traitors, and Leakers, BEWARE!"

Onderstaand sprak Vance eerder vandaag ook zeer wantrouwend van een 'Trojaans paard'. En zoals hier gisteren ook al geschreven, solliciteren de drie bedrijven naar een soort semi-overheids-kartelpositie. En zo'n vergaande vervlechting kan een dusdanige kruisbestuiving opleveren dat uiteindelijk vervaagt wie er nou eigenlijk wie reguleert, en het AI Industrial Complex een soort vierde tak van de overheid wordt.

Schisma onder tempelelites

Ja het is ook gewoon doodziek natuurlijk. Jettens HONDERDEN AI-berichten, waaronder die over Westerbork, waar hij (volgens AI?) geen greintje bezinning of reserves voor hoefde te tonen 'omdat bijna iedereen het dagelijks gebruikt'. MinDef Yesilgöz en stas Derk Boswijk ook al - overigens echt EXACT de twee zwaargewichten uit het lichtste segment waar je dit van zou verwachten. En dan ging Jetten de volgende dag gewoon weer vrolijk verder met AI-posts over 9/11 enz. Nja, daar denkt Sander het zijne van: 

"Waar staatssecretaris Boswijk nog stond te stamelen als een puber die betrapt is op afkijken, toonde Jetten geen enkele schaamte. Hij liet weten ‘net als driekwart van de Nederlanders’ ook af en toe AI te gebruiken ‘om dingen beter te maken’. Maar die zijn geen minister-president, beste Rob! En als dit ‘beter’ is, hebben we een probleem. (...) Nederland is een idiocratie aan het worden; geleid door LinkedInLiberalen die niet zelf kunnen schrijven en denken, en met een jonge generatie die vrijwel ongeletterd is, zo bleek uit het nieuwe Pisa-rapport.

(...) Ik heb het een tijdje aangekeken met dit stelletje, maar dit is voor mij de druppel. Een kabinet van middelmanagers die geen probleem in AI zien omdat ‘iedereen het doet’ en je het ‘toch niet tegenhoudt’, verdient niets dan de totale ondergang."

Waarvan akte.

Een voor allen, (...)

Weet u nog, Liveblog 65 op 2 april waarin langzaam bleek dat er ondanks CENTCOMs ontkenning wel degelijk een Amerikaanse F-15 neergeschoten was boven Iran? Een dag later bleek dat de piloot diezelfde dag al gered was, maar de onderstaande boordschutter moest zwaargewond twee dagen 'overleven en ontwijken' totdat Amerikaanse commando's hem van een bergtop trokken. Bij de redding van de piloot werden 21 vliegtuigen ingezet, maar bij de veel complexere redding van de boordschutter maar liefst 155 vliegtuigen, waaronder 64 straaljagers, 48 tankers, 13 reddingstoestellen, 4 zware bommenwerpers en 92 speciale eenheden op de grond. Afijn, van dat verhaal nu dus de beelden, en een lang interview met de boordschutter zelf. Leuk detail ook; de helikopter waar de twee commando's uit verschijnen om de boordschutter te redden is geblurred, dus we zijn heel benieuwd wat voor geheime (aangepaste) SOAR-machine dat nou weer is - we vermoeden een stealthy Black Hawk. Het gerucht dat de boordschutter gevonden werd met een langeafstands-hartslagdetector is zeer waarschijnlijk wel een stedelijk mythe (zo zeg je dat in het Nederlands). Michael Bay heeft de filmrechten overigens gekocht, dus we hopen dat - naar goed gebruik op Iraans grondgebied - de Transformers ook mee doen.

Je dacht misschien dat het dat ene Amerika was, maar het is dus een ander

Geerten Waling hoef je het allemaal niet uit te leggen want hij heeft er voor doorgeleerd en schrijft er boeken over enz. Maar samen met zijn geliefde - de u mogelijke bekende Talitha Muusse - reisde hij door de VS om het daadwerkelijke Amerika toch nog eens opnieuw op te tekenen, want de MIDTERMS zijn aanstaande 3 november. En wat blijkt? Amerika is geen MAGA Handmaid's Tale, en ook geen Democratisch open gesticht. Sterker nog, het lijkt wel een land. Onderstaand de eerste drie afleveringen, en op deel vier hebben we maar te wachten.

De dame in kwestie is overigens de welbekende Elise H., bekend van het verstoren van de minuut stilte op 4 mei, het verstoren van Jettens openingsspeech, en vorige week nog het verstoren van een Kamerdebat vanaf de publieke tribune

Je ziet zo'n vrouw en je denkt: zou ze spreken van betwist Judea en Samaria of de bezette Westbank? Erkent ze de groene lijn vanaf 1967, of is ze meer van de grenzen uit 1949? Nee maar gekkigheid. Sommige posters hebben het allemaal: de volmaakte intersectie van de omnizaak. Dat Extinction Rebellion zichzelf al volledig aan Hamas had uitgeleverd was eigenlijk vanaf 9 oktober 2023 al evident, ze zeiden het alleen niet hardop, maar Elise gaat voor de troepen uit. Poëtisch beeld ook, die plechtige achteloosheid waarmee 'gematigde' Greenpeace-activisten langs het spandoek lopen. Maar dat is toch echt jullie eigen spookhuis jongens.

Niet de eerste oproep van z'n soort, maar wel de zwaarste

Het is in de AI-industrie onder de grote spelers al zo'n drie jaar modieus om op te roepen tot vertraging en regulering van de wapenwedloop. Laatst meldde Anthropics chef Veiligheid nog doodleuk dat hij de kans 'groter dan 10%' acht dat AI de mensheid binnen 10 jaar vernietigt, en gisteren deed de CEO van Anthropic de bovenstaande oproep. Die oproep komt neer op de waarschuwing dat 1) AI's 'frontiermodellen' zeer binnenkort niet meer te beheersen zijn, omdat die modellen hun eigen opvolgers bouwen, in plaats van dat mensen het doen: "My first concern is that, since roughly this summer, AI has been advancing drastically faster, driven primarily by AI’s growing ability to build the next generation of AI. This dynamic is called recursive self-improvement, and it is starting to happen across the industry, including at Anthropic, as we and others have described. Left unchecked, it could outrun our ability to understand and control these systems, and so must be pursued very carefully, if at all." En 2) de aanbeveling tot vergaande vertraging van AI-ontwikkeling en regulering vanuit overheden. 

Klinkt nobel, maar ten eerste is 'waarschuwen' voor hoe 'gevaarlijk' je AI-modellen zijn tegelijk een verdekte vorm van marketing. Immers, die modellen kunnen alleen zo gevaarlijk zijn als ze een absurde kwaliteit hebben, en dat is uiteindelijk toch precies waar de grootste afnemers naar op zoek zijn. TEN TWEEDE, en misschien nog wel belangrijker: de oproep tot strenge regulering is een verdekte aanzet tot een soort Anthropic/OpenAI/xAI-kartel (zie Altman en Musk onderstaand). Want alleen de grootste namen kunnen het zich veroorloven om "employee-like access to a team of embedded third-party evaluators (such as METR)" te bieden, "whose role is to verify adherence to safety practices and commitments, report incidents, and help assess the alignment of not just completed AI models but training pipelines and processes." Kleinere bedrijven die per Open Source-modellen de concurrentie aan willen gaan met de grote namen, worden hiermee geknieschijft.

Ook is de brief een oproep om de grootste bedrijven de facto een soort federale overheids-ondernemingen te maken, met permanente overheidsteams ter controle: "The most effective method of pacing is via regulation that targets all US frontier AI companies, as that covers even those who are unwilling to cooperate voluntarily. Anthropic has long supported sensible and targeted AI regulation, specifically bills that focus on transparency and on third-party auditing. I believe all frontier labs should partner with government to formalize the idea of permanent embedded evaluators to better prevent and document internal alignment incidents like those that have occurred in the last few months, and to implement regulation focused on keeping capabilities in balance with safety."

Maar zoals het bekende militaire gezegde luidt: 'tracers work both ways', en zo'n vergaande vervlechting kan een dusdanige kruisbestuiving opleveren dat uiteindelijk vervaagt wie er nou eigenlijk wie reguleert, en het AI Industrial Complex een soort vierde tak van de overheid wordt.

Naschrift 10:17 - Een terechte vraag die nogal rondzingt: "If Sam Altman, Dario Amodei, and Elon Musk all agree that we have to slow down - and now - something serious clearly happened with a frontier AI model. Journalists should be digging in to this. We aren’t getting the whole story here."

wat je noemt een exemplaar

GeenStijl erkent prinsen zelden, maar Igor Chaika treedt vandaag toe tot het illustere gezelschap van paspoort-handelaar RUG-professor Europees constitutioneel Recht en Burgerschap Dimitry Kochenov, Osdorpse straatdanser Lee, verkeersregelaar, chocoprins Berthony Jomba, horecaondernemer Robert Jan Steenhagen en beoogd voorzitter Bond voor Statiegeldverzameleaars Reggie. Igor is overigens de zoon van voormalig Russisch hoofdaanklager en Minister van Justitie Yury Chaika, dus het leiderschap van het 'Federal Agency for the Commonwealth of Independent States, Compatriots Living Abroad, and International Humanitarian Cooperation' liet hij zich niet van de boterham eten. Ook duidelijk dat Russen evolueren om steeds moeilijker uit ramen gegooid te kunnen worden trouwens.

Voelt oprecht als 5 jaar, maar die moord is dus pas 12 maanden geleden

Waarom is Charlie Kirk niet de martelaar geworden die hij had kunnen zijn? Dat zouden we hier helemaal uit kunnen schrijven, maar gelukkig is dat waar de video over gaat! Kleine hint wel: als je de esthetische slag verliest, dan levert ook je wereldbeeld en ethiek aan resonantie in, want meer dan eens gaat esthetiek vooraf aan ethiek. Verder ook nog over het door Alexandria Ocasio-Cortez (AOC) met het citaat "Woke 1 was crazy" ten einde verklaarde Woke 1, hoe Jason Arday Woke 1 definitief mee het graf in nam, en Woke 2, namelijk het Third Worldism van burgemeester Mamdani & Co. Proost makkers.

Ja het Anthropic achter Claude ja

Maar hoopgevende noot: ze doen wel hun best! Evan Hubinger is chef 'allignment', wat er ongeveer op neerkomt dat het zijn taak is AI 'in lijn' te houden met 'menselijke waarden'. En als je er dan even vanuit gaat dat die menselijke waarden er niet op neerkomen dat de mensheid uitgeroeid moet worden, is hij niet unaniem enthousiast over de prognose. "We geloven er echt oprecht in dat AI alle mensen zou kunnen doden! Zelf denk ik dat de kans het komende decennium 10%> is. (...) We hebben nog geen plan om het alignment-vraagstuk voor superintelligentie op te lossen, en we liggen ook niet duidelijk op koers om dat te bereiken." Maar dat weerhoudt ze er dus niet van de wapenwedloop richting AGI/ASI (Artificial General Intelligence/Artificual Super Intelligence) te vertragen - alles is immers voor Bassie.

Hubinger reageert bovenstaand op een tweet van Jacob Coxon, en dat is dus een Antropic-onderzoeker die gisteren ontslag nam wegens zijn onderstaande gewetensnood. En dan berichtte de Financial Times gisteren ook nog dat Antropic heeft nagelaten zijn nieuwste frontiermodel Mythos 5.1 - sinds 1 september operationeel voor geselecteerde cliënten - in te dienen voor pre-lanceer-veiligheidstesten bij het Britse AI Security Institute en vergelijkbare Amerikaanse organen. Zal wel niks zijn!

Maar wat is er erger? Het vernietigen van de mensheid of de teksten van Rob Jetten?

Het is zo'n ondoenlijke communist

Een dag nadat beweerd werd dat Netanyahu door zowel inlichtingendienst Shin Bet als de leider van de Emiraten 1,5 week voor 7 oktober gewaarschuwd werd voor een rampzalig Hamas-plan, en 1,5 week nadat Spaanse premier Sánchez Israël verantwoordelijk hield (wat dus nergens op gebaseerd was) voor de Marokkaanse bestorming van Ceuta, blijkt nu dat de Spaanse inlichtingendienst Sánchez van te voren had gewaarschuwd dat Ceuta bestormd zou worden.

RTL Nieuws schrijft: "Spanje wist wel degelijk van tevoren dat een stormloop op komst was op de exclave Ceuta. Dat blijkt uit openbaar gemaakte rapporten van de Spaanse inlichtingendienst. Op 29 juli sloeg de inlichtingendienst alarm. (...) Signalen waren er al op  27 juli. Tussen de vrijgegeven documenten zit berichtenverkeer van die dag, waarin een officier van inlichtingendienst CNI en de regeringsvertegenwoordiger in Ceuta het hebben over 'een dringende vergadering' op 29 juli met als onderwerp 'de kwestie van de zwemmers'. (...) Er zijn in totaal meer dan veertig documenten over de grensoversteek bij Ceuta; tot gisteren waren die 'staatsgeheim'. De druk op premier Pedro Sánchez om ze vrij te geven nam met de dag toe en kwam van alle kanten: oppositiepartijen, politievakbonden, Europese politici en juristen."

De boel is mooi, en dan ontkende hij (vorige week al) in het Spaanse parlement ook nog eens de conclusie van de Spaanse inlichtingendienst dat de Marokkaanse overheid de sturende kracht was achter de invasie: "Ik kan u verzekeren dat geen enkele instelling - noch de diplomatieke dienst, noch de Europese Commissie, noch enig internationaal orgaan - de Spaanse regering enig hard bewijs heeft geleverd dat Marokko het incident heeft gepland of uitgevoerd. Helemaal niets." Ondertussen blijven er nog altijd 7.000 van de oorspronkelijke 72.000 overstekers in Ceuta, met dagelijkse aanrandingen en minstens 15 verkrachtingen tot gevolg.