アルゴリズムに選ばれる社会 ――それは、人間を幸せにするのか

すでに世界は、この危険性に気づき始めている

この懸念は、単なる未来予測ではない。

EUのAI規則（AI Act）は、AIによる有害な操作や一部の「ソーシャル・スコアリング」を禁止対象としている。人間の社会的行動や個人的特性をもとに人を分類し、それによって不利益な扱いをする行為について、基本的人権へのリスクを認めているのである。

さらにEUのデジタルサービス法（DSA）は、EU域内で月間利用者4500万人を超える大規模プラットフォームに対し、利用者がパーソナライズされていないフィードを選べる仕組みを求めている。欧州委員会自身が、推薦アルゴリズムが社会や世論を大規模に形成し得ることを制度上のリスクとして扱っている。

これは、「アルゴリズムは危険だからやめよう」という話ではない。

むしろ逆である。

社会に大きな便益をもたらす技術だからこそ、どこまで委ねてよいのかを人間側が決めなければならないということである。