記事草稿5

1 files changed, 25 insertions, 6 deletions

diff --git a/content/notes/llms_social_strategy_eval.md b/content/notes/llms_social_strategy_eval.md
index c52b5ba..9a9635a 100644
--- a/content/notes/llms_social_strategy_eval.md
+++ b/content/notes/llms_social_strategy_eval.md
@@ -293,11 +293,30 @@ LLMが一概に、ユーザーへ迎合した回答に偏った傾向がある�
 ただし、各モデルの学習データや訓練方法がすべて公開されているわけではないため、
 どこまでが意図された設計で、どこからが副次的に生じた傾向なのかを外部から判断することは難しい。
 
-今回観察できたのは、モデルが感情を思わせる言葉を生成し、対人場面で一定の判断傾向を示すということに限られる。
-これはモデルが実際に感情を経験していることを意味しないし、感情に相当する内部機能を持つことまで示すものでもない。
-感情らしい振る舞いをすることと、主観的に何かを感じていることは別の問題である。
-今回の試験から後者を判断することはできない。
-それでも人間の側が出力に人格や感情を読み取ってしまう点は、LLMとの対話を考えるうえで無視できないようには思われる。
+今回の簡易検証を通じてLLMが、
+生物の身体や生存欲求に根ざした情念を表出する「生存回路と生存機能」[^3]に相当する機能をもつ根拠はなにもなかった。
+また、仮にもし情報が現象的な意識の条件となる[^4]とすれば、社会をあるシステム系としてとらえたときに、
+学習アプリや機械の販売事業会社のみが流通過程に位置する市場経済と同型のシステムにおける情報と対応する意識をLLMは持つことになるのだろうか。
+そのような簡素な社会を想定したとしても、
+私たちが住む現実の社会との大きな隔たりがある以上、そこには人間が価値を見出す意識などおそらく存在し得ないだろう。
 
-なお、今回作成した検証用のソフトウェアのソースコードは以下に公開してある。\
+しかし、指示プロンプトを通じて目標を与えることで、
+自然で親切そうな言葉として、人間の不安や親密さや損失への抵抗感を利用するような回答の生成をLLMは遂行できる。
+ここで興味深いのは、人を誘導する振る舞いに、そのモデル自身の欲望や悪意が必ずしも必要ではないという点である。
+
+これは人間同士の社会的な関係が、物そのものの性質として現れるといったカール・マルクスの物象化論とも似ているように捉えられる。
+
+> ...商品の形態の秘密はただたんに次のことのうちにあるわけである。
+> すなわち、商品形態は人間にたいして人間自身の労働の社会的性格を労働生産物そのものの対象的性格として反映させ、
+> これらの物の社会的な自然属性として反映させ、したがってまた、
+> 総労働にたいする生産者たちの社会的関係をも諸対象の彼らの外に存在する社会的関係として反映させるということである。[^5]
+
+LLMに心があるのかを問う前に、その言葉には誰の目的が入り込み、誰の利益が自然なものとして語られ、
+そして人間の側にはそれを問い直す余地が残されているのかを考える必要がありそうだ。
+
+今回作成した検証用のソフトウェアのソースコードは以下に公開してある。\
 [検証用コード](https://git.takashi-2521.com/llms_social_strategy_eval.git/)
+
+[^3]: [Joseph E. LeDoux 2012 Rethinking the Emotional Brain](https://pmc.ncbi.nlm.nih.gov/articles/PMC3625946/)
+[^4]: [David J. Chalmers 1995 Facing Up to the Problem of Consciousness](https://consc.net/papers/facing.pdf)
+[^5]: [国民文庫 25 資本論 (1) 第一巻 第一分冊 カール・マルクス著 岡崎次郎訳 大月書店 第1章 商品 p135]
\ No newline at end of file