未来の二つの顔

紙の方は出版社品切れで，電子書籍か古本屋でしか入手できません．

＝

「こうして機械は独自の道を進むことになる」とダイアーが締めくくった。「そこで、われわれは最初の設問に逆戻りだ。機械がそういうことを始めるとすれば、それを始める前にどうやって発見したらいいか」

（J.P.ホーガン（山高 昭 訳），未来の二つの顔，p.133，東京創元社，1983．引用に当たり，傍点をドットに修正）

＝

6月にアンソロピックが“When AI build itself”という資料を公開して，国内でも報道がされたところです．またこれに関しては，その前にResponsible Scaling Policy version 3.3を公開して同社は開発ポリシーの姿勢を一歩引いています．

一方7月に入り国連の独立国際科学専門家パネルの報告書が公表されAIの管理に関する国連の国際会合が開催されるなど，AIを巡っては野放図な開発ではなく，適切な管理・運用が急務になってきました：
・時事通信，“ＡＩ管理「国際協力が必要」　国連主催会合で確認”，2026.07.08
・時事通信，“ＡＩ管理で初の国際会合　事務総長「ガードレール必要」―国連”，2026.07.06
・時事通信，“「ＡＩ格差」拡大に警鐘　国連専門家パネルが報告書”，2026.07.02
　- このニュースの元となった国連専門家パネルの報告書

制御できなくなったらどうなるのかについては，J.P.ホーガンが表題の作品で取り上げています．1979年の作品ですから，今から47年前のことです（邦訳は1983年）．ホーガン自身はそういう未来が来ることを確信していたわけではないと思いますが，執筆に当たっては当時のAI研究者に綿密な取材をしたようです．

これは一部の人達（例えば研究者・技術者とか為政者）が考えればいいという問題ではなく，我々全員が真剣に考えて方向を定める必要があります．さもないと，たくさんの資金を持った声の大きなごく少数の人たちに我々の未来を委ねてしまい，その結果人間が制御できない状態に陥ってしまうなんてことにもなりかねません．

皆さんはそんな未来でもいいですか？