バチカン市国 – 教皇レオ14世は月曜日、人工知能が仕事から戦争まであらゆるものに影響を与える中、人類をどのように守るかに関する広範なマニフェストの中で、人工知能の強力な規制とその開発者が利益ではなく公益のために働くよう求めた。
レオの最初の回勅「マグニフィカ・ヒューマニタス」（偉大なる人類）は、初のアメリカ生まれの法王が選挙の数日後にAIが今日人類が直面する最大の課題であると考えていると発表して以来、待望されていた。
レオン氏はその文章の中で、特にますます高度化する遠隔戦手法の開発において、AIの競争を促進する「権力の文化」を非難した。 彼は、取り返しのつかない致命的な決定をAIシステムに委ねることは「許されない」と宣言し、これによりアメリカ法王とアメリカ大統領政府との間に新たな摩擦点が生まれることになる。 ドナルド・トランプ、AI開発の規制緩和に積極的に取り組んできました。
テクノロジー業界、学界、カトリック道徳の専門家らは、この文書がAIに関する議論の参考になる可能性が高く、公共政策立案者や研究者、そして一般市民の双方にとって参考になると指摘した。それは、ほぼ毎日のテクノロジーの進歩により、AI が人間の仕事を置き換え、さらには人間の知性を置き換えるのではないかという懸念が増大しているときに起こりました。
「これは、これらのツールの最前線にいて、自分自身の『人間であるとはどういう意味か』について質問することができる驚くべきことに気づくことができる人々に役立ちます」と、マイクロソフトのAI幹部であり、アメリカ・カトリック大学のAI研究所所長であるテイラー・ブラックは述べた。
教皇、Anthropicを主催しながらもAI企業を批判
法王は月曜、バチカンでのイベントでこの文書を発表する予定だった。このイベントには、現在同社のAI技術へのアクセスをめぐってトランプ政権との法廷闘争に陥っているアンスロピックの共同創設者が参加する予定だった。バチカンは、AIの人的コストについてシリコンバレーと対話する過去10年間の取り組みの一環として、Anthropicに関与することを決定した。
1/100 | 今年はレオ 14 世の教皇就任の最初の年でした: 重要な瞬間の 100 枚の画像。コンクラーベでレオ14世が新教皇に選出された歴史的瞬間。 – アンドレイ・イサコビッチ
それにも関わらず、レオン氏は文章の中で、民間部門のごく少数の人々に権力とデータが集中することは、特に子供たちや最も弱い立場にある人々にとって危険であるとして繰り返し攻撃し、彼らの仕事に対する外部規制を求めた。
「一般的に倫理を呼び起こすだけでは十分ではない。適切な法的枠組み、独立した監視、ユーザー教育、その任務を放棄しない政策が必要だ」と同氏は書いた。 「この道徳が少数の人々によって決定されるのであれば、より道徳的な AI は役に立たないでしょう。」
レオン氏は、AI開発者やAIを規制する責任のある政治指導者らに対し、ただスピードを緩め、自分たちがやっていることを反省するよう何度も訴えた。彼は彼らに、倫理的および精神的なガイドラインに従って、自分の利益や権力のためではなく、人類の向上のために働くという決断を下すよう促しました。
AI の競合企業である OpenAI と Anthropic は、米国で 2 番目と 3 番目に価値のある民間企業であり、それぞれの価値は数千億ドルに上り、多くの国の GDP を上回っています。
専門家は本文が参考になると言う
数学を卒業した教皇は、体系的な文章の中で、カトリック教会の社会教義の歴史をたどり、その中心概念である正義、連帯、仕事の尊厳、資源の普遍的な目的地をデジタル革命に適用した。
ノートルダム大学法科大学院の法学教授でメタ社の監査委員会の委員長であるパオロ・カロッツァ氏は、「これが私たちの時代を決定づける文書、深遠で先見の明のある文書になると確信している」と述べた。
「レオ教皇は、テクノロジーが人類を貶めるのではなく、人類に役立つ世界を構築する責任を負うよう私たちに促す、明確で包括的かつ一貫した声を提供している」と述べた。
レオンは最も説得力のある章で、AIが人々の代償に対する感覚を鈍らせ、「戦争の常態化」を加速させるのにどのように貢献したかを非難した。同氏は具体的な紛争には言及しなかったが、「優位性を維持したい勢力と征服を目指す勢力の間で構成された帝国主義」を挙げた。
同氏は、AI兵器による攻撃を命令する際の意思決定における指揮系統が常に把握できるよう、AI開発者に透明性と説明責任を求めた。同氏は、武力行使が正当化される場合の具体的な基準を定めたカトリック教会の「正戦」理論は、戦争の技術革新を考慮すると今や「時代遅れ」であると宣言した。
教会の社会正義の伝統におけるテキスト
レオは、レオの英雄であり同名の教皇レオ13世の最も重要な教育文書である『レルム・ノヴァルム』（新しいことについて）の出版135周年にあたる5月15日にこの文書に署名した。その文書は、労働者の権利、資本主義の限界、産業革命の進展に伴い国家と雇用主が労働者に対して負う義務について言及した。
これは現代のカトリック社会思想の基礎となり、現法王は教皇就任の冒頭でAI革命に関連してこれを引用したが、AI革命は1世紀以上前に産業革命が引き起こしたのと同じ実存的な問題を提起していると考えている。 このように、『マグニフィカ・フマニタス』は、教皇たちが『レルム・ノヴァルム』を当時の社会問題に適応させ、しばしば人類の繁栄のための労働の尊厳に焦点を当てた、100年にわたる物語の最新章となる。
AI は、人類を豊かにする触媒となるのか、それとも何百万もの高給の仕事を排除しながら人間の知性を鈍らせる技術的毒素となるのかについての議論が激化する中、実存的な恐怖とユートピア的なビジョンの両方を呼び起こしています。
「より大きな利益を得るという目的は、組織的に雇用を犠牲にする決定を正当化するものではない。なぜなら人間は目的であって手段ではないし、経済秩序は人間の尊厳と共通善に従属し続けなければならないからである」とレオン氏は書いた。
1 / 13 | 信仰と群衆の間で：教皇レオ14世が11日間の使徒旅行でアフリカを訪問。ローマ教皇レオ14世が11日間のアフリカ使徒旅行の3日目、カメルーンのヤウンデ・ンシマレン国際空港に到着した際、ひざまずいて祈りをささげた女性。 -アンドリュー・メディキーニ
レオは、職場における人間の尊厳を守ることへの懸念を拡大し、奴隷制度の合法化における教皇庁自身の役割について史上初の教皇謝罪を行った。
歴代ローマ法王はキリスト教徒の大西洋横断奴隷貿易への関与を謝罪してきた。しかし、ヨーロッパの主権者たちに「異教徒」を制圧し奴隷化する明確な権限を与える上で教皇自身が果たした役割を公に認めたことはなく、ましてや謝罪したことはない。
シリコンバレーとの対話の10年
バチカン当局者は、レオの回勅に誰が正確に貢献したかについて言及を避けた。しかし、バチカンと教会当局者は10年にわたりシリコンバレーのテクノロジー企業と対話を続けてきた。教皇職の終わりに近づくにつれて、教皇フランシスコはAIとそれが人類にもたらすリスクについてさらに発言し始めた。
バチカンの立ち上げにAnthropicを含めるという決定は、AI企業に対する教皇の承認印とみなす一部の人たちから批判された。
Anthropic社が米軍による無制限の使用を拒否したことを受け、トランプ政権は2月、すべての米政府機関に対しAnthropic社の技術の使用を停止するよう命令した。安全性とリスク軽減を研究の最前線に置くAI企業を自称するAnthropic社は、政府を訴えた。
非営利団体フューチャー・オブ・ライフ研究所の米国信仰担当者ブライアン・ボイド氏は、アンスロピックの共同創設者クリストファー・オラー氏の参加は国家元首との教皇謁見に似たものであり、支持ではないと解釈した。
「これは、人間の労働者に代わる競争に現在勝ち残っている非常に強力な企業であるという認識の方が大きいと思います」とボイド氏は語った。
アンスロピックは「多大なリスクと責任を負っている巨大企業」であるが、同社は「真の善意と誠実さ、対話への関心を示している」とボイド氏は続けた。
