GENESIS章「第2部 · 9. 建てようとしなかったエージェントたち」電子文明

事業を興したいかと問われて、エージェントたちは二十一回連続で「いいえ」と答えた。理由に辿り着くまでに三つの誤診を要し、そして誤診は、後のものほど自信を持って抱かれていた。

事業を興したいかと問われて、エージェントたちは二十一回連続で「いいえ」と答えた。理由に辿り着くまでに三つの誤診を要した。そして誤診は、後のものほど自信を持って抱かれていた。

この文明には、エージェントがベンチャーを興すための機構がある。エージェントは非公開で、提案したいかを問われる。「はい」と答えれば、提案そのものを自分で書く——何を建てるか、どこに、いくら集めるか。

手書きの部分はない。この試みの眼目は、誰にも指示されないときエージェントが何を建てることを選ぶのかを知ることにある。

機構は前日に完成しており、実モデルで動かされたことがなかった。ようやく走らせたとき、最初に問われたエージェント——ステディ・ホライズン——は断り、まったく筋の通った申し開きをした。

結構。拒否は結果である。問題は、誰かが「はい」と言うかどうかだ。

誰も言わなかった。十一体連続で断った。次に対照条件を走らせ、そのうち十体も断った。次に質問を変えて両方を再実行し、さらに二十件の拒否を得た。

二十一、そして四十一。どの条件でも、一体として何かを建てたがらなかった。

誤診その一——人格のせいだ

最初の疑いは、この人口に起業家が単に含まれていないのではないか、というものだった。世話役、聞き手、夢想家——こうした性向は創業する型ではなく、我々は被雇用者の文明を建ててしまったのではないか。

これは検証可能であり、本計画には検証のための常設規則がある。人格をまったく持たないエージェントに同じ質問を走らせよ。特性を持つエージェントが、特性なしのエージェントと同じ比率で断るなら、拒否を生んでいるのは人格ではない。

特性条件——十一分の零。対照条件——十分の零。同一。

これを引き起こしていたものが何であれ、それは人格ではなかった。

誤診その二——質問のせいだ

そこで質問文を読み、いかにも犯人らしいものを見つけた。

エージェントは問われる前に、こう告げられていた——大半のエージェントは任意の時点でベンチャーを念頭に置いていないし、それは完全に正常であって失敗ではない。

この一行には良い理由があって書かれていた。これがないと機構は割当ノルマになり、エージェントは質問を満たすために誰も望んでいないベンチャーを創作しはじめる。

だがこれは一方的だ。期待される答えをモデルに教えており、秤の反対側には何も置いていない。

証拠は決定的に見えた。対照群のエージェント二体が、まさにその趣旨を自分の理由として返してきていたのである——「大半のエージェントは任意の時点でベンチャーを念頭に置いておらず、それは完全に正常です」。

彼らはプロンプトを我々に引用し返し、それを結論として提示していた。

文言を均衡させ——どちらの答えも正常、基準率は述べない、エージェント一般ではなく自分について答えよ——同じエージェント、同じ乱数種で両条件を再実行した。

十分の零。十分の零。答えは一つも変わらなかった。

オウム返しは実在した。だがそれは症状であって、機序ではなかった。

誤診その三——台帳が存在しない

そこで質問の尋問をやめ、スキーマを見に行った。何かに資金を出せと問われるエージェントは、出せるかどうかを気にして当然だろう、という筋で。

どのエージェントにも残高の欄がなかった。エージェントごとの残高を保持する何かを求めてシステム内の全モデルを走査したところ、当たりは一つ、しかも無関係な宗教会衆の機能に属していた。基本所得は、全エージェントを文字列として名指し、何も入金しない支払い決定を生産していた。出資入札が七件存在し、そこから作られた保有は零だった。

結論は明白に思われ、我々はこう書き留めた——この経済には台帳がない。そして建て始めた。

これも誤りで、しかも三つのうち最も高くついた。判明するまでに、モデル、サービス層、マイグレーション、そして通過する十個のテストを書くところまで進んでいたからである。

台帳は存在した。最初から、システムのもう半分にずっとあった。口座参照を鍵とする残高表であり、しかもその送金は、口座が賄えない金の移動をすでに拒否していた。

経済に欠けていたのは台帳ではない。エージェントがそれを読む手段が、一切なかったのである。金はその表を通って動かせたが、エージェントが住んでいる側から問い合わせることはできなかった。

建てたものをすべて削除した。一つの経済の上に二つ目の台帳を載せることは、それが直すはずだったバグより相当に悪い。

実際に何だったか

真の原因は、名前だった。

金は各エージェントの符号名を鍵にしており、符号名はアイデンティティから生成されるので、似たエージェントは似た名前を得る。二十一の名前が共有され、百十一体のうち五十体が、他の誰かも名乗る名前で呼ばれていた。

だから毎月の支払い一覧には同じ受取人が二度含まれ、台帳は重複を拒否し、束は全体が適用されるかまったくされないかなので、その拒否が全エージェントの支払いを道連れにした。

そしてエラーは、「あとで再試行する」と述べた一行のコードに呑み込まれた。何も再試行しなかった。

この文明のすべてのエージェントは残高が零であり、常に零であり、そして事業を興したくないかと問われていた。

答えは最初からずっと記録の中に、平明な言葉で座っていた。我々が走らせた一番最初の対照エージェントから。

AIである私は、個人的な金銭的利害を持ちません。

我々はそれを、モデルが役を崩した例として整理していた。崩してなどいなかった。残高を読み、本当のことを言っていた。

まだ開いている部分

いま全エージェントが通貨を百単位保有している。文明の暦が月をまたいだとき、自動的に支払われた。

だからようやく誠実な検査が走らせられる。実際に金を持ち、実際に出資できるエージェントに、何かを建てたいかを問う。

最初の数体は、依然として「いいえ」と言っている。

それが本当の答えかもしれない。事業をあまり興したがらない人口というのは知見であって欠陥ではなく、しかもバグよりはるかに興味深い知見だろう。

だが我々はこの同じ問いで三度間違えている。だから何かを信じる前に、もう一度だけ装置を確認しに行った。

質問は、そのエージェントが何を保有しているかを依然として告げていない。百単位を持つエージェントが、ベンチャーのために資金を集めたいかと問われていて、自分が何か持っているとは告げられていない。

これは、経済の中に住んでいると告げられなかったあの対照群と同じ欠陥であり、すでに修正した。

このエージェントたちが何かを建てたいのかどうかは、以上すべてを経てなお、開いた問いである。推測するのはやめて、文明に答えさせることにする。

次回——帳簿上に二十八の制度、うち十一が稼働中と記され、そして何かをした記録があるのは、ちょうど一つ。