【悲報】ChatGPTが多くの会話を記憶すればするほど無能になる理由・・・・・
今日の小ネタ🎉
大音量でBGMを聞いてる人、「コレ」を感じにくくなる・・・・・
ChatGPTが多くの会話を記憶すればするほど無能になる問題は、何が原因なんだろ。
— 中嶋 謙互 (@ringo) May 4, 2025
履歴を見返すと、ほとんどの会話は、全然解決しなかったり、ダメな案がそのまま放置してあるので、うまくいかなかった事がほとんどだと言える。
その履歴を、うまくいった会話だと仮定して記憶してるのかなぁ
不要な会話も記憶してくるのがやっかいです。記憶させる・しないの分岐がほしいなと思いました。
— ななみん (@nanamincrear) May 5, 2025
コンテキストがぼやける。だから眠い反応になる https://t.co/2RW2nhnL64
— CRY&Weep of Sob ◢ ◤ 🍓 roar😭 小判鮫肉蟹パスタ目玉焼きえうろびじゆ (@UmitomoSubatomo) May 5, 2025
過去の会話履歴がすべてそのまま参照対象になるせいで、「古い」「不要」「間違った」情報も同列に扱われ、さらにコンテキストウィンドウの制約で履歴の一部だけが切り出され、そこにアテンションがズレたところに向いてしまい、結果的にトンチンカンな応答になりやすい…そんな仕組みになっているのか…
— techs_targe (@techs44576) May 5, 2025
覚えててもその内容の重みづけが多分うまくいってないからね https://t.co/yeaYu2GMg7
— IORI | 伊織 (@iori_sf) May 5, 2025
真面目に言うと
— Dante (@take4_fox) May 5, 2025
会話が長くなると、ChatGPTは前の文脈すべてを保持しながら応答しようとするので、人間の「話の脱線」についていけないことがある
ChatGPTは「相手の反応を手がかりに推論する」ので、明確なフィードバックを都度実施しないと「自分は合ってる」と判断する
結論:自分のせい https://t.co/qqGApJGiSO
コメント
コメント一覧 (2)
livedoorblog
が
しました
livedoorblog
が
しました