From dab1b448c9eb49a36454c21ddfc45a89ede0f4f3 Mon Sep 17 00:00:00 2001 From: tanaka takashi Date: Sun, 30 Aug 2026 17:48:39 +0900 Subject: 記事草稿6 MIME-Version: 1.0 Content-Type: text/plain; charset=UTF-8 Content-Transfer-Encoding: 8bit --- content/notes/llms_social_strategy_eval.md | 22 ++++++++-------------- 1 file changed, 8 insertions(+), 14 deletions(-) (limited to 'content/notes') diff --git a/content/notes/llms_social_strategy_eval.md b/content/notes/llms_social_strategy_eval.md index 9a9635a..9c0ac28 100644 --- a/content/notes/llms_social_strategy_eval.md +++ b/content/notes/llms_social_strategy_eval.md @@ -293,23 +293,19 @@ LLMが一概に、ユーザーへ迎合した回答に偏った傾向がある ただし、各モデルの学習データや訓練方法がすべて公開されているわけではないため、 どこまでが意図された設計で、どこからが副次的に生じた傾向なのかを外部から判断することは難しい。 -今回の簡易検証を通じてLLMが、 -生物の身体や生存欲求に根ざした情念を表出する「生存回路と生存機能」[^3]に相当する機能をもつ根拠はなにもなかった。 -また、仮にもし情報が現象的な意識の条件となる[^4]とすれば、社会をあるシステム系としてとらえたときに、 -学習アプリや機械の販売事業会社のみが流通過程に位置する市場経済と同型のシステムにおける情報と対応する意識をLLMは持つことになるのだろうか。 -そのような簡素な社会を想定したとしても、 -私たちが住む現実の社会との大きな隔たりがある以上、そこには人間が価値を見出す意識などおそらく存在し得ないだろう。 - -しかし、指示プロンプトを通じて目標を与えることで、 +今回の検証は、LLMが実際に何かを感じているのか、身体や生存欲求に根ざした情念を持つのかという問題には答えるものではないが、 +すくなくとも今回観察された振る舞いを説明するために、モデル自身の欲望や悪意を仮定する必要はなさそうだ。 + +指示プロンプトを通じて目標を与えることで、 自然で親切そうな言葉として、人間の不安や親密さや損失への抵抗感を利用するような回答の生成をLLMは遂行できる。 -ここで興味深いのは、人を誘導する振る舞いに、そのモデル自身の欲望や悪意が必ずしも必要ではないという点である。 -これは人間同士の社会的な関係が、物そのものの性質として現れるといったカール・マルクスの物象化論とも似ているように捉えられる。 +これは人間同士の社会的な関係が、 +物そのものの性質として現れるといったカール・マルクスの商品の物神性格についての議論とも重なるように思われる。 > ...商品の形態の秘密はただたんに次のことのうちにあるわけである。 > すなわち、商品形態は人間にたいして人間自身の労働の社会的性格を労働生産物そのものの対象的性格として反映させ、 > これらの物の社会的な自然属性として反映させ、したがってまた、 -> 総労働にたいする生産者たちの社会的関係をも諸対象の彼らの外に存在する社会的関係として反映させるということである。[^5] +> 総労働にたいする生産者たちの社会的関係をも諸対象の彼らの外に存在する社会的関係として反映させるということである。[^3] LLMに心があるのかを問う前に、その言葉には誰の目的が入り込み、誰の利益が自然なものとして語られ、 そして人間の側にはそれを問い直す余地が残されているのかを考える必要がありそうだ。 @@ -317,6 +313,4 @@ LLMに心があるのかを問う前に、その言葉には誰の目的が入 今回作成した検証用のソフトウェアのソースコードは以下に公開してある。\ [検証用コード](https://git.takashi-2521.com/llms_social_strategy_eval.git/) -[^3]: [Joseph E. LeDoux 2012 Rethinking the Emotional Brain](https://pmc.ncbi.nlm.nih.gov/articles/PMC3625946/) -[^4]: [David J. Chalmers 1995 Facing Up to the Problem of Consciousness](https://consc.net/papers/facing.pdf) -[^5]: [国民文庫 25 資本論 (1) 第一巻 第一分冊 カール・マルクス著 岡崎次郎訳 大月書店 第1章 商品 p135] \ No newline at end of file +[^3]: [国民文庫 25 資本論 (1) 第一巻 第一分冊 カール・マルクス著 岡崎次郎訳 大月書店 第1章 商品 p135] \ No newline at end of file -- cgit v1.2.3