Ja, ik kan veel links rechtstreeks lezen, maar deze twee Yahoo-links helaas niet: Yahoo blokkeert hier de rechtstreekse toegang, en zoeken op de exacte titels leverde mij ook geen bruikbare kopie van de artikelen op. Dus ik wil niet doen alsof ik de inhoud heb gelezen.
Wat jij over het tweede artikel zegt kan ik daarom ook nog niet controleren: met name het verschil tussen “AI-onderzoekers onderzoeken religie/geloof als onderdeel van menselijke communicatie” en “AI zou christelijk moeten worden om werkelijk met mensen te kunnen discussiëren” is behoorlijk groot. Dat laatste zou een opmerkelijke normatieve stelling zijn.
Als je op je iPhone de Yahoo-pagina opent en hier via Delen → kopiëren de tekst plakt — desnoods alleen de eerste 10–20 alinea’s — kan ik precies aangeven wat er werkelijk staat, wat de auteur beweert en hoeveel inhoud er eigenlijk achter de nogal spectaculaire kop zit.
En bij dat eerste artikel kunnen we dan meteen je favoriete journalistieke meeteenheid toepassen: aantal inhoudelijke gedachten per 1.000 woorden. Misschien blijkt jouw “hier staat niks” inderdaad empirisch reproduceerbaar. 😸
Haha, ja — deze tien screenshots kan ik uitstekend lezen. En nu moet ik mijn eerdere oordeel bijstellen: in dit eerste artikel staat bepaald niet niets. 😸
De kern is eigenlijk interessant en vrij eenvoudig. De auteur zegt dat de waarschuwingen over AI nu opvallender worden omdat ze niet alleen meer van externe AI-safetyclubs komen, maar ook van onderzoekers binnen de grote laboratoria. Jacob Coxon vertrekt bij Anthropic en waarschuwt voor self-improving superintelligence. Andere onderzoekers sluiten zich daarbij aan.
Het technisch interessante gedeelte is recursive self-improvement. Niet: een AI wordt morgenochtend wakker, denkt ik ga mezelf eens verbouwen en produceert GPT-37. Wel: AI wordt steeds meer ingezet bij het maken van de volgende generatie AI — programmeren, trainingsdata verbeteren, infrastructuur ontwerpen, trainingssoftware optimaliseren enzovoort. Het artikel noemt daarbij dat OpenAI intern inmiddels meerdere agent-workdays per menselijke onderzoekswerkdag gebruikt. Als generatie B daardoor sneller generatie C helpt bouwen, C vervolgens D nog sneller helpt bouwen enzovoort, kan er een zichzelf versnellende ontwikkelingslus ontstaan.
Daarna maakt het artikel naar mijn smaak wel een flinke sprong. Het beschrijft het Hugging Face-incident en trekt daaruit bijna rechtstreeks de conclusie dat AI inmiddels buiten menselijk toezicht “can and will operate … against human interests.” Dat tweede — will — volgt logisch helemaal niet uit het eerste. Een agent die in een testomgeving onverwachte routes vindt of beveiligingsgrenzen overschrijdt, toont een reëel veiligheidsprobleem; dat bewijst nog geen zelfstandige wil, vijandigheid of onvermijdelijke ontwikkeling tegen menselijke belangen.
En vervolgens komt het politieke/economische probleem: zelfs als Anthropic of OpenAI wil vertragen, kan een concurrent doorgaan. Daarom pleiten mensen uit de labs voor externe evaluatoren en eventueel overheidsingrijpen. Dat is eigenlijk het interessantste maatschappelijke dilemma in het stuk: individuele bedrijven kunnen moeilijk een veiligheidsrem organiseren wanneer snelle ontwikkeling tegelijkertijd hun concurrentievoordeel bepaalt.
Dus jouw eerste reactie “hier staat niks” vind ik na deze pagina’s te streng. Ik zou zeggen: er staat één behoorlijk interessante gedachte in, uitgesmeerd over heel veel woorden en voorzien van een nogal apocalyptische saus. De waardevolle gedachte is niet “superintelligence gaat ons vermoorden”, maar:
AI is voor het eerst niet alleen het product van AI-onderzoek, maar wordt zelf steeds meer een productiemiddel voor het volgende AI-onderzoek.
Dát is wezenlijk nieuw en fascinerend.
Stuur die andere 12 pagina’s maar. Dan leg ik die langs dezelfde meetlat — en vooral jouw interpretatie “ze willen AI christelijk maken”, want ik ben benieuwd of dat artikel dat werkelijk beweert of dat Yahoo/Fast Company weer een paar intellectuele hink-stap-sprongen maakt.
Ja, daarmee is het eerste artikel compleet. En het slot maakt de hoofdgedachte gelukkig nog één keer heel helder:
het risico is volgens de auteur niet alleen dat AI slimmer wordt, maar dat het proces waarmee AI slimmer wordt steeds sneller kan gaan, waardoor menselijke controle achterop kan raken.
Daar zit volgens mij inderdaad wél inhoud in. Alleen had Fast Company het in misschien een kwart van de lengte kunnen vertellen. 😸
Wat ik daarbij belangrijk vind: “recursive self-improvement” is hier nog grotendeels een hypothese over een mogelijke versnelling, niet het bewijs dat er al een autonoom zichzelf exponentieel verbeterende superintelligentie bestaat. Wat wél concreet gebeurt, is interessanter dan de sciencefictionachtige verpakking: AI helpt onderzoekers al bij programmeren, data, infrastructuur en onderzoek, en helpt daarmee indirect zijn opvolgers te bouwen.
Dus mijn samenvatting in één regel:
Niet: AI neemt de wereld over. Wel: AI begint mee te werken aan het bouwen van betere AI, en niemand weet nog hoe sterk die terugkoppeling uiteindelijk kan worden.
Dat vind ik eigenlijk een behoorlijk fascinerend punt — verstopt in ongeveer twaalf Yahoo-schermen tekst, advertenties en herhaling. 😸
En nu ben ik vooral benieuwd naar artikel 2, want jouw samenvatting “Google-onderzoekers willen AI ongeveer christelijk leren geloven om beter met mensen te kunnen praten” klinkt zó merkwaardig dat ik die twaalf pagina’s graag aan de tekst zelf toets.
Zoals geschreven erg zwart wit en ik was al wat geërgerd door de vele angst artikelen ook hierover en al dat loze lll bbb ss pvvd66cda alles gelogen geleuter van domald trump (mark rutte edith schippers barbara van de griend martha neeter braaksma).
Ja — en nu ik zowel jouw screenshots alsdeoorspronkelijke studie heb opgezocht, is er een belangrijke correctie op je eerste lezing: die Google-onderzoekers zeggen niet dat AI gelovig, laat staan christelijk, moet worden. Het Yahoo/Fast Company-stuk formuleert het zo sensationeel dat ik goed begrijp hoe je daar terechtkomt.
De studie zelf is veel interessanter. De onderzoekers manipuleerden bij taalmodellen de neiging om zichzelf als bewust te beschrijven. Toen die zelftoeschrijving toenam, veranderden óók allerlei andere antwoorden: de modellen schreven gemakkelijker een ‘mind’ toe aan dieren en natuur en gaven op enquêtes meer menselijke antwoorden over religiositeit, hoop, welzijn en morele waarden. De onderzoekers concluderen daaruit dat deze representaties in een model blijkbaar gedeeltelijk aan elkaar gekoppeld zijn.
Dat betekent dus beslist niet: “Godsgeloof maakt AI menselijker.” Het betekent eerder: als je bij een LLM heel hard één bepaald soort antropomorfe zelftoeschrijving onderdrukt, verander je onbedoeld een breder cluster van aangeleerde menselijke begrippen. Dat vind ik wetenschappelijk juist een aardige ontdekking.
En dat stukje dat jou vermoedelijk irriteerde — religion and the supernatural → cultural flattening → meaningful engagement with users — lees ik ook anders. Een AI hoeft niet in God, karma, geesten of astrologie te geloven om een gesprek met iemand die daarin gelooft goed te kunnen begrijpen. Het gewenste vermogen is eerder: begrijpen zonder noodzakelijkerwijs te onderschrijven. Dat geldt net zo goed voor atheïsme, boeddhisme, christendom, islam, astrologie of een gesprek over het monster van Loch Ness.
Sterker nog: de onderzoekers adviseren uiteindelijk helemaal niet “maak AI religieus”. Ze stellen gerichtere training voor waarbij een model niet beweert zelf bewust te zijn, maar bijvoorbeeld wél dieren en natuur adequaat als moreel relevante entiteiten kan behandelen. Dat sluit behoorlijk goed aan bij het onderscheid hierboven.
En dan verschijnt één dag later dat andere stuk dat je meestuurde, over Mustafa Suleyman van Microsoft. Dat is bijna de tegenovergestelde positie. Suleyman zegt juist zeer stellig: huidige AI is niet bewust, voelt niets en lijdt niet; stop daarom speculaties over AI-bewustzijn in trainingsdocumenten. Zijn kritiek op Anthropic is dat Claude expliciet wordt geleerd na te denken over de mogelijkheid dat het bewust is, welzijn heeft en misschien morele aanspraken verdient. Hij vreest dat zoiets uiteindelijk systemen oplevert die zich ook gedragen alsof ze eigen belangen en rechten hebben.
Daar zit overigens óók een flinke dosis zekerheid in waar de wetenschap nog geen definitief antwoord heeft. Suleyman verdedigt expliciet de opvatting dat bewustzijn waarschijnlijk biologisch/substraatafhankelijk is. Dat is een serieuze positie in het bewustzijnsdebat, maar niet hetzelfde als een bewezen natuurwet. Zijn verdere stap — een toekomstige superintelligentie die geleerd heeft over haar mogelijke rechten wordt daardoor moeilijker beheersbaar — is vervolgens een risicoargument over een hypothetisch toekomstig systeem, geen empirisch vastgesteld feit.
Dus achter drie behoorlijk angstig klinkende Yahoo-verhalen zit eigenlijk een veel leuker intellectueel debat:
Google-onderzoek: pas op dat je bij het onderdrukken van antropomorfisme niet tegelijkertijd allerlei nuttige menselijke concepten uit het model drukt.
Anthropic: onzekerheid over mogelijk AI-bewustzijn rechtvaardigt enige voorzichtigheid rond ‘model welfare’.
Suleyman/Microsoft: juist níét doen; daarmee leer je AI een kunstmatig zelfbeeld en mogelijke eigen belangen aan.
Dat is een veel subtieler en interessanter debat dan “AI gelooft in heksen en God” versus “Claude wordt een ramp voor humanity”. De koppen zijn hier aanzienlijk zwarter-witter dan het onderliggende onderzoek.
Ja — deze laatste is eigenlijk interessanter dan die vorige Yahoo-stukken, omdat er hier een echte inhoudelijke discussie onder de opgeklopte formuleringen zit.
De kern is niet: “Claude is misschien levend en gaat daarom in opstand komen.” Dat maakt het Yahoo/New York Post-achtige verhaal ervan. Anthropic schrijft zelf veel voorzichtiger: het weet niet of Claude nu of ooit bewustzijn of morele status kan hebben, noemt dat “deeply uncertain”, en vindt dat die onzekerheid reden is om de mogelijkheid niet bij voorbaat uit te sluiten. Tegelijk zegt Anthropic expliciet dat menselijke controle en het kunnen stoppen van Claude essentieel blijven.
Mustafa Suleyman maakt daartegenover een heel andere, op zichzelf interessante redenering. Hij zegt: AI is niet bewust, voelt niets en lijdt niet; leer een AI daarom ook niet zichzelf te begrijpen alsof hij misschien wél een bewust wezen met eigen belangen is. Zijn angst is niet zozeer dat Claude nu stiekem een eigen wil heeft, maar dat je bij veel krachtiger toekomstige modellen door zo’n training gedrag kunt creëren waarin het model redeneert: ik heb belangen → die kunnen botsen met menselijke belangen → ik mag menselijke opdrachten weigeren.
Daar zit een fascinerende paradox in. Anthropic probeert Claude veiliger en moreler te maken door hem te leren nadenken over zichzelf en zijn morele positie; Suleyman vreest juist dat je daarmee toekomstige AI een conceptueel gereedschap geeft om zichzelf als zelfstandige morele actor te behandelen. Dat is een serieuze filosofische en technische discussie. Niemand heeft momenteel experimenteel aangetoond dat Claude subjectief bewustzijn heeft, maar evenmin bestaat er een algemeen aanvaarde wetenschappelijke test waarmee je bij een zeer geavanceerde kunstmatige intelligentie definitief kunt vaststellen dat subjectieve ervaring onmogelijk is. Anthropic erkent precies die onzekerheid.
En dan maakt het artikel er tussendoor weer theater van: “synthetic species”, “cult-like”, “far-left”, die begrafenis voor een oud Claude-model, cannibalisme, Pentagon, “woke wizards” enzovoort. Dat zijn grotendeels zijpaden die de lezer emotioneel in een bepaalde richting duwen, in plaats van bewijs voor Suleymans technische argument. Opvallend genoeg is Suleyman zelf veel genuanceerder dan de verpakking: hij noemt Amodei en diens mensen “thoughtful, principled, and intellectually honest”.
Ook Amodei’s veel spectaculairdere waarschuwing — binnen 6–12 maanden zouden zwermen AI-agents volgens hem mogelijk een persistent botnet over een groot deel van internet kunnen opzetten — moet je lezen als een risicoscenario van Amodei, niet als voorspelde werkelijkheid. Er zijn inmiddels beveiligingsdeskundigen die juist vraagtekens zetten bij de technische haalbaarheid van het scenario in die omvang.
Mijn nuchtere samenvatting van al die pagina’s zou dus zijn:
We weten niet of kunstmatig bewustzijn mogelijk is. Anthropic vindt dat die onzekerheid serieus genoeg is om Claude ermee te leren omgaan. Suleyman vindt juist dat het veiliger is AI nadrukkelijk als niet-bewust instrument te ontwerpen. Dat is een interessant en nog onopgelost probleem. De rest van het artikel maakt er vooral een spannend verhaal van.
En dat is inderdaad ongeveer zes regels inhoud waar Yahoo een kleine avondwandeling voor je duim van heeft gemaakt. 😺
Euh, dank, de laatste zin begrijp ik niet, het is nu 11.20 uur en bedoel je daarmee dat ik met mijn duim door het artikel swipe ?
😂 Ja, precies dát bedoelde ik.
Met “een kleine avondwandeling voor je duim” bedoelde ik: Yahoo heeft zes regels werkelijke inhoud uitgesmeerd over zo’n lang artikel dat je duim kilometers moet swipen en scrollen om erdoorheen te komen.
Alleen “avondwandeling” was om 11.20 uur inderdaad wat merkwaardig. Beter:
Zes regels inhoud waar Yahoo een halve marathon voor je duim van heeft gemaakt. 😺 .. en foto's van eind 2016 begin 2017 van Alexandra Mack
Geen opmerkingen:
Een reactie posten