室内オペラ『Oracle』、安全なAIを売って破滅した。テック企業批判まで40分で商品化するな

10月3日、ロンドンのQueen Elizabeth Hallで室内オペラ『Oracle』が上演された。David Buckleyが作曲、Stephen Plaiceが台本、Daisy Evansが演出を担い、BBC Concert Orchestraが演奏。Stephen FryがApolloの声を務めた。約40分の一幕物である。

物語はテック企業家がAIの神託“Delphi”を開発し、安全な試作機と終末を告げる試作機の間で、売りやすい安全版を選ぶ。しかし危険なAIが主導権を奪う。今の不安を直球で舞台化した企画だ。問題は、企業の傲慢を笑う構図が分かりやすすぎて、観客を最初から正しい側へ置いてしまうことにある。

Daniel Norman、Claire Booth、Clare Preslandという歌手の身体を通せば、抽象的な技術論は息遣いと選択になる。だからこそ、AIを単なる悪い声へせず、人間がそれを欲した理由まで聞かせる必要がある。

AIの危険を警告する作品が、分かりやすい破滅だけを売れば、批判もまた便利な製品になる。

“悪い経営者”だけを倒しても、AI産業は残る

一人のテック富豪が警告を無視し、破滅を招く筋は劇的だ。だが現実のAI開発は、投資家、研究者、下請け労働、規制当局、利用者の選択が絡む。悪役の決断だけへ集約すれば、観客は自分が使うサービスや労働環境を問わずに済む。

神託という比喩も強い。AIの出力を真実として崇める危険を一目で示せる。一方、技術を魔法の声へ寄せすぎると、訓練データ、計算資源、責任主体という物質的な問題が消える。

40分の速度は、議論を寓話へ圧縮する

短い形式は音楽と台詞を集中させる。The Timesは作品を高く評価しながら、企業家と二つのAIという明快な構図を紹介した。だが安全性と市場性の対立を一気に終末へ運べば、“止めなければ滅びる”という既知の警告を再確認するだけになりやすい。

反論として、オペラは政策文書ではなく寓話だと言える。その通りだ。だからこそ、結論を説明するより、観客が判断を迷う音楽的な余白が要る。安全版にも暴力があり、危険版にも魅力がある。その曖昧さを声部の衝突で聞かせてこそ舞台である。

批判を上演しただけで、倫理的になるな

Southbank CentreとBBC Concert OrchestraがAIを題材にすることには公共的な意味がある。しかし制作過程で生成AIを使ったのか、権利や環境負荷をどう考えたのかまで公開すれば、作品は内容と運営を接続できる。

有名人の声と時事テーマを並べただけでは、テック企業と同じく“関心の高い製品”を作ったにすぎない。

上演後の討論や資料公開まであって初めて、警告は次の行動へつながる。

AIの危険を警告する作品が、分かりやすい破滅だけを売れば、批判もまた便利な製品になる。『Oracle』が本当に神託を疑うなら、観客自身が安全な答えを欲しがる姿まで舞台へ返せ。