以下転載。(原文より AI 翻訳)
パランティアの道具は、私たちがまだ理解し始めたばかりの見えない危険をもたらします。
武器化されたAI監視プラットフォームは、世界中の人権を脅かしています。それらがどのように機能するかをご紹介します
https://www.theguardian.com/commentisfree/2025/aug/24/palantir-artificial-intelligence-civil-rights
(参考X)
https://x.com/hirotsuguaida/status/2027993619723059335?s=46
氷はすぐそこです」と友人は携帯電話から見上げて言った。私たちは、ニューヨーク市で最も古い地区のひとつにあるカフェで執筆しており、そこでは学校や教会が、米国が存在するずっと前から繁栄する移民コミュニティを支援しています。現在、この不正な連邦機関の捜査官は、人種的プロファイリング、不当な拘留、医療の放置、非人道的な拘留といった市民権侵害で知られる――がすぐ近くにいて、隣人の自宅や通り向かいの公園で激しく非難していました。
1日前、私は国連で外国特派員と会い、米国全土で移民・税関取締局(Ice)が使用しているAI監視アーキテクチャについて説明しました。法執行機関は、私の過去の雇用主の一つであるパランティア・テクノロジーズが先駆的かつ普及させたターゲティング技術を使用しています――かつてグラフィックデザイナー兼ライターとしてイラストを描く任務を任されたツールですが、その結果についてはやっと理解しつつあります。ほとんど目に見えないものの、パランティアのような技術は、イラン、ガザ、ウクライナの戦争から米国における移民や反体制派学生の拘束に至るまで、世界情勢において重要な役割を果たしています。しかし、その遍在にもかかわらず、立法者や技術者、メディアは、この特定の武器化されたAIとその結果の脅威から人々を守ることに失敗しており、その一因は名前を認識していないからです。
インテリジェンス、監視、ターゲット取得、偵察(Istar)システムとして知られるこれらのツールは、複数の企業によって構築され、ユーザーがAIの助けを借りて、大規模に人々を追跡・拘束し、戦争の文脈において人々を殺害できるようにします。彼らは、公的および私的に取得された膨大なデータを組み合わせてパターンを検出することでオペレーターにターゲットを提供し、特に大規模監視、強制移住、都市戦争のプロジェクトにおいて有用です。「AIキルチェーン」とも呼ばれ、彼らは私たち全員を見えない追跡メカニズムの網へと引き込みますが、私たちはまだ理解し始めたばかりでありながら、米国では氷が自宅や教会、公園、学校の近くでこれらのシステムを利用している様子が、本能的に体験し始めています。
これらの監視構造の見えない性質と、それらが私たちの生活に与える影響は、これらのツールが何をするかについての世間の理解が曖昧である理由の一つです。それが、私がパランティアで建築ライターとして働くきっかけでもあります。それは、今日、多くの人が人生の大半を過ごすデジタル空間を知る機会でした。オフィスでクラウドソフトウェアを使用し、通勤時に新しい車を運転し、家庭でソーシャルメディアでドゥームスクロールを行う――私たちは皆、膨大なデータを監視や大手テックが作成したプログラムに供給していますが、これらはしばしば手遅れになるまで認識できません。このため、私はこれらのIstarアプリケーションが、ますます歪んだ暴力的な方法で私たちの市民権と自律性を侵害していることを伝え、示し続けています。
Istarテクノロジーで駆動されるドラッグネットは、移民や戦闘員だけでなく、その家族やつながりまでも、彼らの後に捕らえられます。彼らは第一修正権および第四修正権に違反しているように見受けられます。第一に、公共の場で人々が共有しやすい範囲、すなわち出会う相手や旅行先を含む、広範かつ目に見えない監視ネットワークを構築すること、そして、本人の知らない者や同意なしに、令状なしで検索し、個人データを押収することを可能にすることです。彼らは、世界で最も脆弱な人口の一部である政治的反体制派、移民、ガザの住民の人権を急速に奪っています。
ある時期、私が自分の近所の列住宅について、装飾的な窓と星形の鉄製スタッドを備え、米国で勤勉と機会を求める移民をどのように歓迎したかについて執筆したことがあります。共有壁と手頃な家賃により、彼らは寛容で繁栄したコミュニティを築き、史上最大の中産階級の台頭を加速させました。現在、新たな形態の建築がアメリカへの移民や訪問者を迎え入れ、彼らの未来を決定しています――それはレンガやモルタル、木材でできたものではなく、これらの目に見えない侵入的なデジタル監視システムで構成されています。
Investigative Case Management(ICM)やImmigrationOSといった名称で、Palantirが国土安全保障省(IDF)に提供するビッグデータプラットフォームは、基本的に4つの共有要素から構成されています。すなわち、システムに統合された基礎データ、分析によるそのデータの解釈とモデリング、そして人間の関与の有無にかかわらず自動アクションの実行です。このアーキテクチャのすべての層において、市民権、データ収集、データ品質、バイアス、差別、正確性、自動化、そして何よりも説明責任に関する重要な倫理的課題があります。
最終的には、しかしながら、これらのプラットフォームは驚異的なデータセットの幅を活用することで、ターゲットを生成し、追跡します。これには、生体認証や医療データ、友人や家族に関わるソーシャルメディアデータ、ナンバープレートリーダーから得られる正確な位置情報、SIMカードデータ、監視ドローンデータなど、極めて個人的な情報が含まれる場合があります。彼らは、活発なプライベートデータブローカーのエコシステムから購入したデータや、WaymoやMetaなどの企業から召喚されたデータも処理することができます。これらのアプリケーションで悪用されるデータセットに関する透明性の欠如、そしてそれらがシステム間でどのように共有されているかが、状況をさらに歪めています。だからこそ、被害者に焦点を当てることが重要です。
近い将来、トランプ氏の大規模再定住計画は、標的化や追跡から移民の逮捕・国外退去の管理に至るまで、Istarツールを用いてシームレスに調整できる可能性があります。Iceは最近、Palantirに数千万ドルの報酬を支払い、「既知の人口の完全な対象分析」を可能にし、トランプ政権の強制送還努力を強化しました。ガザにおいて、パランティルはIDFに対し、戦争関連任務のための重要なデータインフラを提供しています。イスラエル軍は、一方で、独自のIstarツールである「Where's Daddy」などを開発し、標的を家族の自宅まで追跡して、安価で誘導されていない「ダムボム」を用いて処刑します。
パランティアは、米国人に対する広範な監視を行っているという報道に異議を唱え、「人権の擁護にコミットしている」と述べています。上記のすべての理由により、私はそれらの主張を拒否いたします。プライバシーの大義を再び受け入れる時が来ました。さもなければ、商業的および公共的な生活において、これらのターゲティングツールが抑えきれないほど拡散するのを目の当たりにすることになるでしょう。米国でAIターゲティング技術がますます一般化されるにつれ、企業はPalantirのようなプラットフォームを用いて顧客や従業員を標的にする独自のデータ網を構築することで、民間セクターにもますます組み込まれています。これは顧客や従業員を殺害したり退去させるためではなく、行動を形作り収益を最大化し、さらなる統制システムを拡大するためです。
残念ながら、AIに直面した市民権の闘いは、連邦レベルと州レベルで苦戦しています。コロラド州では、州民を差別から保護することを目的としたAIに関する国内初の消費者保護法が、現在脅威にさらされています。これが、先月私がデンバーの街頭に、約40人の他の活動家と共に州庁所在地からパランティア本部へ行進した理由です。ワシントンDC、ニューヨーク、パロアルト、シアトルの海岸から海岸まで抗議者に加わられました。彼らは、緩やかなつながりに駆られ、しかし共通の目的で、各都市にあるパランティアの事務所にもピケを起こしました。ニューヨークで4名が逮捕され、デンバーでは私たちの小さなグループが印象的で協調的な武力の披露を受けました。私たちは、2マイルの旅の間、抗議者とほぼ同数の警官に直面し、彼らは多くの通りを閉鎖し、ドローンで私たちの護送隊を追跡しました。
トラックの荷台に乗りながら、私はエリック・サンチェス・ゴイティア、ジャンネット・ヴィズゲラ、ニクソン、ディクソン・ペレスといった隣人たちのアイス・カストージからの釈放を求めて叫びました。彼らは私と同様に、コロラドで移民として生涯を築き、この国に貢献し、学び、働くために努力してきました。彼らが自州で作られた技術に囚われ、追放されているという事実は、納税者の資金で支払われており、我が州の歴史に対する大きな汚点です。帰路で州議会に接近した際、デンバー市長のマイク・ジョンストン氏、コロラド州知事のジャレッド・ポリス氏、そして代表者の皆様に、隣国に害を及ぼす国内技術に注意を払うよう、国内初のAI消費者保護策の実施を阻止しようとする試みをやめ、州内に収容施設を増やす連邦政府に逆らうよう懇願しました。
コロラド州上院は現在、予算特別会合を開催しており、州初のAI消費者保護がベンチャーキャピタルの利害関係者によって削減、遅延、または解体されるリスクにさらされています。したがって、今週の抗議は、代表者がその措置を審議する中、パランティル本部だけでなく州議会も対象とします。彼らは、消費者保護法案の簡素化版である新しいAIサンシャイン法案を支持し、大企業が支持する、個人がAI企業を訴える権利を奪う法案に反対します。私たちの運動も拡大しており、今週末に全国で大手テック企業とパランティルに対抗する40回以上の行進が計画されています。
最近は、標的になるかどうかではなく、いつになるかについての方が心配です。私はフリーランスのジャーナリストであり、移民でもあり、パレスチナ支援のデモをしてきました。そして、これらの技術は3つのカテゴリーすべての人々を対象に使用されています。それにもかかわらず、私の恐れは、IDFやIceがIstarツールを使用して標的にされた人々の体験と比べることはできません。たとえば、ガザで標的空爆で死亡したジャーナリストや、毎晩刑務所の独房で非人道的な状況に苦しむ移民などです。むしろ、私はこの技術の実際の世界への影響を理解しようと最善を尽くすべき人物であり、かつてその普及に参加したことがあります。私は、より多くの技術従事者や政策立案者が同様にできることだけを願っています。
フアン・セバスチャン・ピントは、デンバーとニューヨーク市を拠点とする作家、デザイナー、そして公民権活動家です。
以上