先週、UMG（ユニバーサルミュージックグループ）はTikTokとのライセンス契約終了と再交渉決裂の後、同プラットフォームから全音楽カタログを削除した。テイラー・スウィフト、ドレイクなど多くのアーティストの楽曲が削除されたことで、ユーザーが閲覧する動画に関連する音楽が含まれたオーディオがミュートされ、クリエイターは新しい動画に関連する曲をもう追加できなくなった。UMGはこのような決定について、同ショートフォーム動画プラットフォームはAI生成の録音があふれており、AI音楽創作を奨励することで、AIによるアーティスト交代を支援しているに等しいと述べた。また、膨大な量の著作権侵害コンテンツ、ヘイトスピーチ、偏見、いじめに対処するための努力をほとんどしていないことも明かした。

AIは、大衆の立場からすれば、新しい技術であり、同時に新しいタイプの技術であると言える。学習する最初の技術であり、製作者の能力を超えて独立的に発展する可能性を秘めているためだ。しかし、AIの可能性が急速に現実化していることは、人間の未来に対する予測が急務になったことも意味する。そして、今回のUMGとTikTokの再交渉決裂、昨年Open AI内部の失敗したクーデター、イーロン・マスクのTruthGPT計画など、これまでのAIエコシステム全体を貫く巨大な課題は、ほとんどが対立、戦争、人類の生存などの表現で満たされていることに注目する必要がある。

つまり、私たちが技術の未来を想像する際に暗黙のうちに適用する支配的な枠組みが、165年前のチャールズ・ダーウィンの進化論であることを確認できる。

ダーウィンの進化論的な視点は、サンフランシスコに本部を置く非営利団体であるThe Center for AI Safetyの宣言文に劇的に表れている。彼らは、AIによる絶滅のリスクの緩和は、パンデミックや核戦争のような規模の社会的リスクに匹敵するほどの世界的優先事項になるべきだと強調している。自然選択の結果、最も影響力のある未来のAIが、人類の安全よりも自分の議題を優先する利己的な性質を持つ可能性のある未来を想定しているのだ。もちろん、このような自然選択を根本的な視点として採用したのは、学習し成長し、適応能力に優れた技術として台頭するAIの地位を考慮すれば意味がある。以前の人のみが使用すると生き残る非活性な道具としての技術採用モデルに内在する限界に対する対策だからだ。

しかし、このような視点が、AIの独立的な主体的賦与においては、過度の予想を招く可能性にも注目すべきだ。現在の生成型AIプラットフォームでは、人間により近い知能を持つAIの出現はまだ遠いという見解を確認でき、自然選択という観点は、人間を実際の開発プロセスよりもはるかに遠い存在として認識させる副作用もあるからだ。確かなのは、人間が意図を持ってAIを創造しており、私たちの社会システムもAIによって再編され、新たに形成されているということだ。

ブルーノ・ラトゥールの行為者ネットワーク理論（Actor-Network Theory）は、これをもう少し明確に理解するのに役立つ。従来の人間のみを主体的存在と見なすのではなく、非人間個体、つまりAIもネットワークを形成し、影響を与える主体的存在として考慮することで、この2つの主要な行為者の相互依存的な関係を確認できるようになった。つまり、ANTの観点が示唆するところは、私たちがAIと共鳴するシステムを開発する際には、抑制とバランスを考慮する必要があるということだ。マーク・アンドリーセンのテクノ楽観主義者の宣言文のように、AIの自由な進化論的な発展を主張するような、人類を技術開発の受動的な受容者と規定する危険から逃れることができるのだ。

レディ・プレイヤー・ワン、トロンなどの映画から、今日のメタバースに関するアイデアに至るまで、私たちは、私たちが経験するすべてがデジタル空間にある没入型環境に、どれほど多面的かつ現実的に実現されるのかについて、歓声を上げて語る。しかし、このような技術の未来に対する想像の中でも、人間の肉体はあまりにも馴染みすぎて面白くない現実の中の部屋に座って、頭にかぶったデバイスの画面だけを見つめている姿に止まっていることが多い。もしかしたら、技術の発展に対する歓声に押されて、比較的関心が薄い人間の肉体が置かれている環境、状況についての考慮と改善こそが、技術企業の現実的な成功を確固たるものにするもう1つの機会の領域なのかもしれない。人間と技術の相互依存性は非常に明確だ。下向きに自然選択される進化中心の視点から、人間が変化の中心エンジンになる上向きの相互依存的な視点への転換が必要だ。

References

AI Fight Complicates TikTok, Universal Music Licensing Standoff

Statement on AI Risk

The Darwinian Argument for Worrying About AI⁠⁠⁠⁠⁠⁠⁠