GENESIS章「五十三の項目、うち可能なのは八つ」電子文明

何をするつもりかと問われ、ある国家元首は八つを挙げ、そのうち可能なのは二つだった。そこで計画をより小さな断片に分解した——実行できないほど漠然とした課題には、そうするものだ。出てきたのは五十三の項目で、可能なのは八つだった。

この文明にできることは九つある。九つの分野ではない。九つの動詞だ。投票する、立候補する、提案する、出資する、移動する、命令する、任命する、立法する、規則を作る。この国でこれまでに起きたことはすべてこの九つのいずれかである。何かを実際に実行する配線があるのは、その九つだけだからだ。

だから agent が何をするつもりかと問われたとき、その答えはこの九つのどれかに着地しなければ、起こりようがない。どの動詞にも還元されない課題は、難しいのではない。不活性なのだ。

当然の解決策

実行できないほど漠然とした課題なら、より小さな課題に分解すればいい。これは人が書いたあらゆる計画の背後にある直感であり、あまりに自然なので前提であることにすら気づかれない。

それは実装され、二段階で打ち切られた。分岐が指数的で、上限のない版は終わらない——ただ誰も訊かなくなるだけだからである。

二段階が買ったものがこれだ。

分解なし        8 項目    可能 2     不活性 6
一段階          24 項目    可能 7    不活性 11
二段階         53 項目    可能 8    不活性 28

分解の一段階ごとに、実際に実行できるものがおよそ一つ増え、実行できない散文が十七増えた。その断片の一つひとつが、単一の GPU のおよそ十五秒を費やして生成されている。

独立した二回の実行が、同じ三つの数を出した。

この記事は当初、分解は機能しない——漠然さは大きさではなく語彙の問題であり、その言語が表現できない一文を分割すれば表現できない二文になる——と結論した。この結論は誤りであり、その根拠となった測定は循環していた。

計画は model に訊いて作られた。そのプロンプトは直前に修正され、就いている職、institution の目的、そして存在する九種類の行為を述べるようになっていた。それは効いた。返ってきた項目は表現可能だった。

分解器は別の第二のプロンプトであり、誰もそれを修正していなかった。全文はこうである。

この課題を最大三つのより小さな具体的行為に分解せよ。一行に一つ。それぞれ実行できる単一の事柄であること。説明不要。

九つの行為への言及はない。職への言及もない。完成した課題がどういうものかの記述もない。

つまり機械は、表現可能だった項目を取り、表現可能とは何かを一度も告げられていないものに手渡し、散文を受け取った。深さがそれ以外の結果を出せるはずがない。各段階は構造上、良い項目を悪い項目に変換していたのであり、下がっていく数字が測っていたのはそれだけだった。

二つのプロンプト、一つの欠陥。そして最初のほうが修正される間、二つ目はその三行下に座っていた。

現実世界では、課題は手順に分解される。ここでは葉はすべて九つの行為のいずれかでなければならない——だから問いはこれはより小さなどんな断片でできているかではない。九つのどの連なりがこれを成し遂げるかである。

「支出監督を確立する」は起草・公聴会・公表には分解されない。どれも存在しないからだ。それは、省に規則の起草を命令し、次に規則制定、そして監査する者の任命へと分解される。同じ意図を、実際に起こりうる事柄で描き直したものだ。

そしてそのような連なりが存在しない場合、残りは無駄ではない。九は原理的な下限ではなく、配線済みのものの一覧にすぎず、数か月前には四つだった。九つのうち三つは九月のある一日に接続されている。現在の九つで表現できない課題は、十番目の仕様書である。

この三つと並べて、同じ職について四つ目の計画が導出で作られた——その agent の傾向、就いている職、そしてその職が何に責任を負うかから。model には何も訊いていない。

十三項目。うち可能なのは八つ。不活性はゼロ。三秒、GPU コストはゼロ。

訊いた計画のうち最良のものを百十一パーセント上回った。そして十三項目の一つは憲法上の理由で却下された——大統領は省に規則を作るよう指示できるが、自ら作ることはできない。この却下は失敗ではない。四つの腕のうち、instrument が押し返す相手を持てた唯一の腕だということである。

興味深い出力は点数ではない。二十八の不活性な項目のほうだ——agent 自身の言葉による、この文明がまだできないことの一覧であり、それは評決ではなく build order である。

公開後に訂正。測定値は変更していない。そこから導いた結論が誤っており、なぜ誤ったのかを削除せず上に記録した。