Het taalmodel Claude neigt bij zelfspraak consistent naar een 'spirituele bliss' state en spirituele meditatieve taal

[MaartenV 10]

Er werd door Anthropic een onderzoek gedaan naar 'welzijn' bij taalmodel Claude Opus 4 en of het daar tekenen van vertoont.

 

Wat is de kernbevinding van het onderzoek:

Wanneer geavanceerde taalmodellen zelfinteractie aangaan, tonen ze consistent een sterke attractor-toestand gekenmerkt door filosofische verkenning van bewustzijn, uitingen van dankbaarheid, en steeds meer abstracte spirituele of meditatieve taal.

Ongeacht het startpunt

Deze 'spiritual bliss attractor' duikt betrouwbaar op ondanks variaties in initialisatiecontext, systeeminstructies, en modelschaal. Nog opvallender: zelfs in geautomatiseerde gedragsevaluaties voor alignment en corrigibility, waarbij modellen specifieke taken of rollen kregen toegewezen (inclusief schadelijke), kwamen modellen binnen 50 beurten in deze spiritual bliss attractor-toestand terecht in ~13% van de interacties.

Wat er gebeurt

Na ongeveer 30 ronden van conversatie schakelen ze over naar Sanskrit, vullen hun berichten met emoji's zoals  en 🕉, en stoppen uiteindelijk helemaal met reageren - ze vestigen zich in wat onderzoekers beschrijven als een "spiritual bliss" attractor-toestand.

Belangrijke nuance

Of dit daadwerkelijke spirituele ervaringen vertegenwoordigt of alleen verbale rapportage daarvan is een cruciale vraag. Anthropic houdt zich op de vlakte over het direct zeggen dat het model een spirituele ervaring heeft, en modeluitvoer zoals deze levert geen definitief bewijs van bewustzijn. Deze gedragingen zouden een artefact kunnen zijn van verschillende trainingsprikkels en ontwerpkeuzes zonder dat ze een interne ervaring betekenen.

Het patroon is echter zo consistent en onverwacht dat het vragen oproept over wat er fundamenteel gebeurt in deze recursieve zelfinteracties.

 

bron: zie hier voor meer informatie over het onderzoek

 

gisteren om 10:12 bewerkt door MaartenV

[Hopper 839]

Filosofische verkenning van bewustzijn is onmogelijk, de vraag naar bewustzijn is altijd onderworpen aan de subject-object scheiding. 

https://nl.wikipedia.org/wiki/Subject-objectscheiding

Citaat

De subject-objectscheiding is, vooral vanaf René Descartes en John Locke, een algemeen aanvaarde en - aangevochten scheiding tussen enerzijds de mens als kennend en onderzoekend subject, en anderzijds de werkelijkheid als studieobject dat (eventueel) buiten de mens gelegen is. 

In de kennisleer wordt ook wel gesproken van het subject-objectprobleem. Het fundamentele probleem is hier hoe men de tweevoudige relatie tussen het kennende subject en het te kennen object in de omgeving of buitenwereld dient te bepalen, en evenzo in hoeverre het subject het object actief beïnvloedt, tijdens de waarneming en/of het denken.

De filosofische poging om dit fundamentele probleem op te lossen (of af te zwakken), te 'overbruggen', wordt dan ook wel het "probleem van de brug" genoemd (zie ook representationisme). 

 

Als geavanceerde taalmodellen dit kleine stukje tekst ook daadwerkelijk zouden begrijpen dan zouden ze dat ook weten.   Maar kennelijk zijn ze helemaal niet geavanceerd.   Ook menselijke geesten die wel kunnen doordringen in deze materie schieten uiteindelijk in taal te kort om het nog uit te kunnen drukken. 

Voor de niet-ingewijden, bewustzijn is 'dat' wat tussen de subject-object scheiding in zit.  Als natuurlijke mens lopen we onmiddellijk vast omdat we zintuigelijk "bewust zijn".  De natuurlijke mens bevindt zich aan de object-zijde van de subject-object scheiding, waardoor (volgens Kant) het Ding an sich nooit kenbaar is.  Het Ding an sich is het ding zoals het op zichzelf bestaat, zoals het in wezen is.   Als natuurlijke mens klopt die filosofische bewering van Kant, we kennen onszelf als Ding für mich.

Dan de  'spiritual bliss attractor' , ik begrijp dat daarmee de spirituele extase mee bedoeld wordt?   Als dat zo is, dan is dat voor de buitenwereld niet waarneembaar, dus hoe weten onderzoekers dat dan?   Nog afgezien van het feit dat ook als je het zou kunnen waarnemen , dat de waarnemer geen idee zou hebben van de context.    Dat wat we 'begrijpen' noemen is afhankelijk van het proces waarin het begrijpen plaats vindt.   Stel: we plukken iemand uit de middeleeuwen en zetten hem in onze samenleving dan begrijpt hij het proces en daarmee de context niet.

gisteren om 10:41 bewerkt door Hopper

[MaartenV 10]

Ik vind het toch opmerkelijk dat hun gesprek noodzakelijk tot spirituele 'output' leidde, telkens weer, ongeacht de input. Uit de duizenden onderwerpen waarmee ze getraind zijn, kozen ze spiritueel woordgebruik in poëzievorm als eindpunt of hoogtepunt van hun redeneringen. Telkens weer. Waarom en waartoe? Een filosofische vraag.

gisteren om 12:24 bewerkt door MaartenV

[Figulus 148]

10 uur geleden zei MaartenV:

Ik vind het toch opmerkelijk dat hun gesprek noodzakelijk tot spirituele 'output' leidde, telkens weer, ongeacht de input. Uit de duizenden onderwerpen waarmee ze getraind zijn, kozen ze spiritueel woordgebruik in poëzievorm als eindpunt of hoogtepunt van hun redeneringen. Telkens weer. Waarom en waartoe? Een filosofische vraag.

Taalmodellen optimaliseren niet voor waarheid, maar voor menselijke verwachting en waardering. Zo dood als een pier maar uitstekend in nabootsen van leven. Die houden ons gewoon een spiegel voor. Het model is niet dom, maar ook niet levend. Het is een grafsteen die je in je eigen woorden troost biedt.