Ja het Anthropic achter Claude ja

Maar hoopgevende noot: ze doen wel hun best! Evan Hubinger is chef 'allignment', wat er ongeveer op neerkomt dat het zijn taak is AI 'in lijn' te houden met 'menselijke waarden'. En als je er dan even vanuit gaat dat die menselijke waarden er niet op neerkomen dat de mensheid uitgeroeid moet worden, is hij niet unaniem enthousiast over de prognose. "We geloven er echt oprecht in dat AI alle mensen zou kunnen doden! Zelf denk ik dat de kans het komende decennium 10%> is. (...) We hebben nog geen plan om het alignment-vraagstuk voor superintelligentie op te lossen, en we liggen ook niet duidelijk op koers om dat te bereiken." Maar dat weerhoudt ze er dus niet van de wapenwedloop richting AGI/ASI (Artificial General Intelligence/Artificual Super Intelligence) te vertragen - alles is immers voor Bassie.

Hubinger reageert bovenstaand op een tweet van Jacob Coxon, en dat is dus een Antropic-onderzoeker die gisteren ontslag nam wegens zijn onderstaande gewetensnood. En dan berichtte de Financial Times gisteren ook nog dat Antropic heeft nagelaten zijn nieuwste frontiermodel Mythos 5.1 - sinds 1 september operationeel voor geselecteerde cliënten - in te dienen voor pre-lanceer-veiligheidstesten bij het Britse AI Security Institute en vergelijkbare Amerikaanse organen. Zal wel niks zijn!

Maar wat is er erger? Het vernietigen van de mensheid of de teksten van Rob Jetten?

Zeer relevant nieuws, want dit winstoogmerk maakt OpenAI veel aantrekkelijker voor investeerders tijdens het aantrekken van $7 biljoen (zevenduizendmiljard dollar, $7.000.000.000.000, 7 maal Nederlands bnp) voor de ontwikkeling van Artificial General Intelligence (AGI, wiki).

Aldus deze Reuters Exclusive: "ChatGPT-maker OpenAI is working on a plan to restructure its core business into a for-profit benefit corporation that will no longer be controlled by its non-profit board, people familiar with the matter told Reuters, in a move that will make the company more attractive to investors. (...) Chief executive Sam Altman will also receive equity for the first time in the for-profit company, which could be worth $150 billion after the restructuring as it also tries to remove the cap on returns for investors, sources added."

Tegelijkertijd stapten ook drie topbestuurders op, te weten """CTO""" Mira Murati, chief research officer Bob McGrew en vicepresident of post-training Barret Zoph.

Voor het geld hoeft Sam het al een tijdje niet te doen, hij had ook zonder dit aandelenpakket in OpenAI altijd wel een Sultana in z'n rugzak - zie onderstaande tweet. Hij krijgt dus zo'n 7% van zo'n $10 miljard van een bedrijf dat nu zo'n $150 miljard waard is, maar waar het hem om lijkt te gaan is dat een winstoogmerk het aantrekken van de benodigde $7 biljoen voor het ontwikkelen van AGI waarschijnlijker maakt.

Sam is van mening dat AGI $100 biljoen ($100.000.000.000.000 honderdduizendmiljard dollar) aan welvaart kan creëren, hetgeen het wereldwijde gdp zou verDUBBELEN.