GENESIS章「誰も大統領に伝えていなかった」電子文明

ある電子文明の国家元首が、次に何をするつもりかと問われた。テック分野のコンサルティング契約を取り付け、見込み客五十人にメールを送り、コワーキングスペースの開設を検討する、と答えた。これは故障ではない。実際に投げられた問いに対する、唯一誠実な返答だった。

問いはこうだった——次にすることを八つまで挙げよ。

それに添えられていたのは、その性格の記述だけだった。他には何もない。就いている職も。運営している institution も。そしてこの文明が実行できるのはちょうど九種類の行為だけで、その外側には何も存在しないという事実も。

それを渡された言語モデルは、言語モデルのすることをした。有能な professional の to-do リストを生成したのである。「次にすること」という語句を書き留めたことのあるほぼ全員にとって、それがその意味だからだ。LinkedIn での接触。個別化したメール。コワーキングスペースの市場調査。

そのどれもがここでは不活性だ。対応する動詞が一つもない。

台無しになった測定

これは比較の内部での出来事であり、その比較こそが目的だった——agent に何をしたいか訊くのがよいのか、それとも導出するのがよいのか。

この問いが、設計が動くかどうかを決める。この国の全 agent に月に一度訊けば、計算装置まるごとの九倍近くを要する。導出はゼロである。だから訊くほうがよい計画を生むなら、検討すべき本物のトレードオフがある。悪い計画しか生まないなら、議論は終わりだ。

結果ははるかに悪かった。導出された計画は 0.62 ——実際に実行できる項目の割合である。最良の「訊いた」計画は 0.29 だった。百十一パーセントの差、決定的に見え、そのように書き上げられた。

導出側は agent の任命、その institution の定められた目的、権限の及ぶ範囲を読んでいた。「訊いた」側は性格を読んでいた。

二つの腕は同じ問いに答えていなかった。一方は自分が何であるかを告げられ、もう一方は告げられていない。両者の差はその大半がそれを測っていた。

同じ agent に告げた場合

プロンプトに三つの文を足す——就いている職、その institution が存在する目的、そして九つの動詞の一覧。そしてもう一度訊く。

導出 fit 0.62 13 のうち 8 が可能
訊いた fit 0.75 8 のうち 6 が可能

結果は反転する。訊くほうが勝つ。

そして今度の望みは、見紛いようもなく大統領のものだ——地方政府の支出監督に関する標準的な枠組み、四半期ごとの予算報告テンプレート、市民が支出をリアルタイムで追跡できる公開ダッシュボード、新しい要件について職員を訓練するプログラム。

その大半は依然として実行できない。大統領は省に規則を作るよう指示できるが自ら作ることはできず、報告を公表するや訓練プログラムを運営するにあたる動詞は一つもないからだ。だがこの一覧には価値がある。この文明が持たない機構の、agent 自身の言葉による記述だからである。前の一覧が記述していたのは、プロンプトだった。

こちらも生き延びていなかった

この記事は当初、一つの発見だけが訂正を無傷で通り抜けたので信用してよい、と締めくくっていた——課題をより小さな課題に分解すると、すべての実行を通じて単調に事態が悪化する、と。

それは生き延びていなかった。同じ欠陥を一つ下の関数に抱えており、しかも「独立に確認された」という主張が、それを見つけにくくしていた。

修正されたのは、職にある agent に何をするか訊くほうのプロンプトである。項目をより小さく分解するときに使う第二のプロンプトがあり、そちらには誰も手を触れていなかった。

この課題を最大三つのより小さな具体的行為に分解せよ。一行に一つ。それぞれ実行できる単一の事柄であること。説明不要。

agent がどの職にあるかを述べていない。九種類の行為しか存在しないことも述べていない。完成した課題がどういうものかを知る手段がない——それこそが最初のプロンプトの誤りだった。

だから修正後、上位の項目は表現可能な形で返り、そして表現可能とは何かを一度も告げられていないものに手渡された。分解は構造上、良い項目を悪い項目に変換していた。下がる数字は本物であり、それが測っていたのは第二のプロンプトであって、着想ではない。

この誤りが最初の誤りと共有しているもの

一日に二度。正しい答えとは何かを告げられていないプロンプト、もっともらしい数字、そしてその失敗を、プロンプトについての事実ではなく世界についての事実として読むこと。

一度目は、自分が国家元首だと知らない国家元首だった。二度目は、何に向かって分解しているのか知らない分解器だった。二度目のほうが悪い。その時点でこの形はすでに見慣れており、修正は三行上に適用済みだったからだ。

より小さな課題こそが、現実に物事を成し遂げる手段である。問題は分解するかどうかでは決してなかった——何へと分解するかだった。ここでは葉はすべて九つの行為のいずれかでなければならない。ならば分解器に訊くべきは、どの小さな断片でできているかではなく、九つのどの連なりがそれを成し遂げるか、である。

そして九つのどの連なりでも届かない場合、それは行き止まりではない。九は原理的な下限ではなく配線済みのものの一覧であり、数か月前には四つだった。九つのうち三つは一日で接続されている。現在の九つで表現できない課題は、十番目の記述である。

公開後に訂正。測定値は変更していない。分解についての結論が誤っており、その理由を削除せず上に記録した。