AIで街の未来を描くヘールレン市、人権団体は「中止を」と訴える

南部リンブルフ州に位置するヘールレン市は、炭鉱閉鎖から半世紀以上が過ぎた今も、貧困・健康問題・犯罪といった複合的な課題を抱える。市はその突破口として、AIを活用した都市分析システム「PULSE-TWIN」の試験運用を今秋から開始する。しかし人権団体アムネスティ・インターナショナルはこの計画に強く反発し、論争が続いている。

「厚い報告書より映像を」——市長が描く未来図

PULSE-TWINは「Proactive Urban Livability and Safety Engine with Integrated Social Digital Twin」の略称だ。既存の統計データをAIが解析し、街区設計や公園・遊び場の配置など、都市整備に関わる様々な選択肢をシミュレートする仕組みである。ヘールレン市のロール・ヴェーフル市長（VVD）は、将来的には市長室の壁面に3D映像でシナリオを映し出すことを想定しており、「意思決定者が実際に目で見て判断できる。分厚い報告書ではなく映像で」と語る。

プロジェクトにはEUが500万ユーロを拠出し、ヘールレン市を含むパートナー各社がさらに約120万ユーロを負担。マーストリヒト大学、国家警察、シーダム拠点の企業Incluzio、「安全設計管理財団（SVOB）」などが開発に参加している。倫理面では、マーストリヒト大学人文社会科学部の専門家が開発から運用まで継続的に関与する体制を整えた。市長は「AIはあくまで補助ツールであり、機械が判断を下すわけではない」と強調する。

アムネスティが指摘する「予測型取り締まり」の影

問題として浮上したのが、市長が地元メディアの取材で口にした「どこで揉め事が起きるか予測し、早期介入できる」という発言だ。アムネスティ・インターナショナルのテクノロジー・人権政策担当アレクサンダー・ラウファー氏はNRCの取材に対し、「それは予測型取り締まり（predictive policing）に他ならない」と批判した。同氏はオランダ国家警察がひっそりと廃止した「犯罪予測システム（CAS）」を前例として挙げ、「こうした実験は常に同じ結果をもたらす——監視によるプライバシー侵害、民族プロファイリング、差別、そして無罪推定原則の侵害だ」と訴える。さらに給付金不正問題（トゥースラーヘンアファイル）も警鐘として引き合いに出した。

市側は「個人を特定できるデータは一切使用せず、集計された統計データのみを扱う」と反論するが、ラウファー氏は「集団レベルでも差別的影響は生じうる」と譲らない。市長は「プロジェクトをろくに調べもせずに中止を叫ぶ相手とは、真剣な対話はできない」とアムネスティとの協議を拒否している。

在蘭日本人にとっての意味——EU全体に広がる議論

ヘールレン市のケースはオランダ一都市の問題にとどまらない。EUは「AI法（AI Act）」の施行を進める中で、公共安全分野へのAI活用を「高リスク」に分類し、厳格な審査を義務付けている。PULSE-TWINは2029年3月まで試験運用が続く予定であり、その結果はEU各地の類似プロジェクトへの参考事例となりうる。AIが都市課題の解決策として期待される一方、アルゴリズムによる差別や監視強化という負の側面への警戒感も欧州全体で高まっている。技術と人権の両立をどう図るか——ヘールレンの実験は、そのせめぎ合いを象徴する試金石になりそうだ。