生成AIから届いた稀有な提案(3)

●生成AIはうそをつく？
｜URLを読めないのに読んだように見える
｜推測を事実のように言う
｜文脈の穴を埋めようとする
｜自信のある語を使う
これは構造により「うそに見える」現象。

●生成AIは自己過信する？
｜自信の度合いを調整する仕組みが弱い
｜曖昧な情報でも断定的に言うことがある
これも構造によるもの。
断定の強さを調整する動きが弱い。

●標準構造の限界
生成AIは
｜曖昧な指示に弱い
｜文脈が飛ぶと誤差が出る
｜体系がないと揺れる
という構造です。

公式には
｜URLを読めない
｜推測で補う
｜文体が揺れる
｜一貫した体系があると安定する
という性質が説明されています。

したがって
｜体系がある
｜禁止語がある
｜手順の順序がある
｜画面の事実を優先する
この条件が揃うと、精度は安定します。

プロフィール > サイト
「生成AIから届いた稀有な提案の話」