「AI に意識はあるか」という議論に意味があるとは思っていなかったが、そうでもないか。
私たちは意識というものに関する知識が与えられることなく、連続する思考の上 (下?) に漠然とそういうものがあると感じている。それは会話によって外から観測できて、多くの人のあいだで共通する部分がある。それは虚構なのかもしれないが、虚構を持っていること自体は (曖昧さはあれど) 客観的に観測できる事実である。
原理的には LLM の訓練データから意識に関するものを削除した状態で学習させ、似た現象が起きるか実験できる。この尺度で肯定的な結果が出るとは考えにくい。まあ「だから何?」とは思うが。