予測が社会的論理になるとき——AIが未来の想像力をどう変えているか

By /

AIシステムは、スパムフィルターから不正検出、生成型チャットボットに至るまで、日常生活に深く浸透し、未来に対する私たちの考え方への静かな影響はほとんど見えなくなっています。私たちはアルゴリズムに何を見るべきか、何を買うべきか、どのニュースを読むべきか、さらには誰とデートすべきかを尋ね、その答えは個人の決定だけでなく、私たちが集合的に可能だと考える地平そのものを形成しています。

Live Scienceに掲載された最近の分析で、バージニア大学のデータサイエンスおよびメディア研究の助教授であるモナ・スローンは、この統合は利便性を超えたより深い意味を持つと論じています。それは、予測が実用的な工学ツールであることをやめ、社会生活そのものを組織化するための論理へと変化することを表しています。

機械の中の神託

スローンは、現代のAIシステムと古代ギリシャの神託との比較を描きます。デルフォイの神託が未来について神聖な宣告を下したのに対して、AIシステムはデータ駆動型の予測を提供しますが、その社会的機能は類似していると彼女は主張します。どちらも、来たるべきものへの特権的アクセスを主張するシステムの中心に位置し、特定の未来をあらかじめ決められたものに見せることで行動を形成します。

もちろん違いは、AIの予測が神の啓示としてではなく、数学的必然性として枠付けられていることです。信用スコアは返済の可能性を予測します。再犯アルゴリズムは再犯のリスクを予測します。採用ツールは仕事の成功確率を予測します。どのケースでも、出力は量的な権威の重みを持ち、結果は同じです：予測された未来が実現する未来になるのです。

予測パラダイム

中心的なテーゼは、スローンが「予測パラダイム」と呼ぶもの、すなわち予測が技術的領域（天気予報、経済モデリング）から社会関係を構造化するための一般的な枠組みへと移行したという考え方です。AIシステムは私たちの集合的な過去のデータを使用して個人の未来を予測し、彼女が「因果関係をフェティッシュ化する線形時間体制」と表現するものを強化します：過去は常に未来を予測し、したがって未来は事前に知ることができるという前提です。

これは微妙だが強力な社会的効果を持ちます。未来が知り得るものであり、アルゴリズムが誰が成功し、誰が失敗し、誰が犯罪を犯し、誰がローンを返済するかを教えてくれるなら、代替の未来を想像することが難しくなります。予測された道は単に可能性が高いだけでなく、不可避に見えます。私たちがどのような未来を望むかについての公的討議は、アルゴリズムがすでに描き出した未来の中での最適化に取って代わられます。

不可避性のフェティッシュ化

スローンが特定する重要なメカニズムは、不可避性のフェティッシュ化と呼べるものです。AIシステムはしばしば自然現象として提示されます。つまり、特定の人々によって、特定の価値観で、特定の制度的文脈で設計されたシステムとしてではなく、私たちに起こる技術的な天気として扱われます。この枠組みは、これらのシステムを実際に形成する社会的力、政治的選択、人間の決定から注意をそらします。

スローンが言うように、AIシステムは「私たちに起こる自然現象ではありません。それらは社会の集合的表現です。」それらは、私たちが誰であるか、何ができるか、どこに属するかについての仮定を埋め込んでいます。採用アルゴリズムが特定の背景を持つ候補者をふるい落とすとき、または警察アルゴリズムが特定の地域に監視を集中させるとき、それらは中立的な予測ではありません。それらはコードで表現された社会的選択です。

含意

この議論は反テクノロジーではありません。それは、工学的に作られた予測を不可避的な結果と誤認することの危険性についてです。予測が人々の生活、つまり信用、住宅、雇用、司法へのアクセスに関する決定を下すための支配的な論理になるとき、予測するという行為そのものが自己実現的予言になり得ます。アルゴリズムが予見する未来は、部分的にはアルゴリズムが創り出す未来なのです。

スローンの分析はデータや実証的な結果を提供するものではありません。それは、日常の生活をますます支配するAIシステムに埋め込まれた前提に関する概念的な議論です。それが提起する問題、すなわち社会が未来の集合的想像力を予測モデルに委ねるべきかどうかは、技術的な問題ではありません。それは政治的かつ哲学的な問題であり、AIシステムが日常生活のインフラへの静かな統合を続けるにつれて、ますます緊急性を増しています。

雅子 訳

Sources

PrivacyAboutContact
Scroll to Top