já jsem v týto diskuzi trochu ztratil naději https://twitter.com/burny_tech/status/1765348861566955928 exstuje nekonečno definicí sentience and consciousness, existuje nekonečno pozic ve filozofii mysli, není pořádnej koncenzus nad empirickým modelem teorie vědomí,...
ohledně sentience/consciousness v LLMs/obecně AI osciluju mezi:
"'stačí' abychom našli neurální koreláty consciousness z mainstream neuroscience teorií v AIs and that will make AIs conscious"
"we have absolutely zero idea what consciousness even is both philosophically and physically, and all physicalist empirical methods to test it can be deconstructed as flawed to oblivion"
(např jak Scott Aarson zroastil IIT, nebo dost neurovědců to vidí jen jako zajímavý korelát, ale ne full picture, nebo jiní lidi furt různýma formama roastí FEP nebo celý paradigma funkcionalismu a connectionismu,...)"
U toho Clauda jsem přemýšlel či tu větší selfawareness/metacognici tam přes trénovací data nacpali schválně buď pro lepšího chatbota ve smyslu víc accurate odpovědi nebo aby působil víc humanlike
Ale bez nějakýho researche co se děje uvnitř toho modelu se neví či to tvoří nějakej novej emergentní spešl vzor, nebo jsou to prostě jenom další featury z trénovacích dat co nic speciálního netvoří. Co bylo v trénovacích datech? Jak vypadá fyzika inferencí uvnitř Clauda?