achtergrond

Geenstijl

login

word lid

nachtmodus

tip redactie

zoeken

"Godfather of AI" Geoffrey Hinton verlaat Google om vrijuit te waarschuwen voor gevaren van AI

Heeft "spijt van levenswerk"

Het op de voet volgen van elke AI-doorbraak hebben we even gepauzeerd omdat we het wel geloofden na de toekomst van eenzaamheid, pornografie, rouw, nasynchronisatie, oogcontact, fotomodellen/fotografen, Facial Motion Capture, rappers, zangers en algehele stem-imitatie, GPT-4, alle banen die bedreigd worden door GPT, Midjourney v5. Maar om de zoveel tijd mogen we wel even BEZINNEN.

Bovenstaand een interview met professor Geoffrey Hinton (wiki) die sinds 2013 voor Google werkte. Google kocht destijds oor $44 miljoen zijn bedrijf DNNresearch Inc dat hij oprichtte met twee studenten waaronder OpenAI's huidige CTO Ilya Sutskever. Hinton wordt soms de 'Godfather of AI' genoemd, maar Robert Malone werd ook de 'Godfather of mRNA' genoemd, dus het is geen beschermde titel. Maar goed, ook Hinton maakt zich zorgen over de gevolgen van ZIJN CREATIE. Maar hij wilde eerst ontslag nemen bij Google, voordat hij daar vrijuit over wilde praten.

"A part of him, he said, now regrets his life’s work. "I console myself with the normal excuse: If I hadn’t done it, somebody else would have. (...) It is hard to see how you can prevent the bad actors from using it for bad things. Look at how it was five years ago and how it is now. Take the difference and propagate it forwards. That’s scary. The idea that this stuff could actually get smarter than people — a few people believed that. But most people thought it was way off. And I thought it was way off. I thought it was 30 to 50 years or even longer away. Obviously, I no longer think that."

Volkomen terecht wijst hij erop hoezeer de wapenwedloop tussen Microsoft, Google, Apple en Musk de kans vergroot dat er ongeoorloofde risico's genomen worden - en dan laten we alle statelijke militaire ontwikkeling nog even buiten beschouwing. "The best hope is for the world’s leading scientists to collaborate on ways of controlling the technology. “I don’t think they should scale this up more until they have understood whether they can control it.”"

Eerder al tekenden tech-giganten zelf, waaronder Musk en Apple-oprichter Wozniak al een petitie om de ontwikkeling van AI te pauzeren, maar dat voelde ergens toch óók als een manier om de concurrentie af te remmen.

go inward

go inward

Samenvatting Eckharts take op AI en bewustzijn (jarenoude opname)

'Bewustzijn komt niet voort uit de hersenen, maar de hersenen zijn een geleider voor bewustzijn. En het is goed mogelijk dat AI uiteindelijk ook in staat wordt bewustzijn te geleiden.'

Reaguursels

Tip de redactie

Wil je een document versturen? Stuur dan gewoon direct een mail naar redactie@geenstijl.nl
Hoef je ook geen robotcheck uit te voeren.