AIの脅威：司法省がAI担当官を任命、ディープフェイクへの対策を呼びかけ

企業が人工知能（AI）技術をより速く、より深く推進するにつれ、私たちが直面する可能性のあるAIの脅威に対する認識が高まっています。これを受けて、米国司法省はAIに特化した連邦法執行官を初めて任命しました…

米司法省がAI担当官を任命

ロイター通信は、プリンストン大学の教授がこの役職に任命されたと報じている。

国防総省によると、技術と法律を研究するプリンストン大学教授のジョナサン・メイヤー氏が、主任科学技術顧問および最高AI責任者に就任する。

メリック・ガーランド司法長官は声明で、「司法省は、法の支配を堅持し、国の安全を守り、公民権を守るという使命を果たすために、急速に進化する科学技術の発展に対応していかなければならない」と述べた。

AIを詐欺などの犯罪行為に利用したり、危険な生化学物質を開発したりするリスクが、最近ホワイトハウスによって強調されました。Appleは、この問題への対策を支援する大統領令に応じた200社以上の企業や団体の一つです。

司法省は、メイヤー氏はAIの両面、すなわち犯罪者によるAIの利用と、テロリストや国家による脅威に打ち勝つための米国によるAIの利用を担当すると述べている。

リサ・モナコ司法副長官は、この技術は米国がテロ計画や敵対勢力による敵対行為を察知し、阻止する上で役立つ可能性があると述べた。しかし、司法省は、この技術が既存の偏見を増幅させ、選挙を改ざんし、サイバー犯罪者に新たな機会を与える可能性についても懸念していると述べた。

「あらゆる新しい技術は諸刃の剣だが、AIはこれまでで最も鋭い刃かもしれない」とモナコ氏は語った。

また、マッシャブルは、何百人もの学者、政治家、技術リーダーが、いわゆるディープフェイクのリスクに対する懸念を表明する公開書簡に署名したと報じている。ディープフェイクとは、AIによって生成された、誰でも何でも言っているように見せかける偽の動画のことである。

明らかな詐欺リスクに加え、ディープフェイクを用いて候補者に有害な発言や攻撃的な行動をとらせ、選挙に影響を与えることへの懸念もあります。さらに、AIによって生成された完全に架空のCSAMでさえ、実在の児童虐待を常態化させる可能性があるという懸念もあります。

誰でも署名できるこの公開書簡は、問題に対処するための立法を求めている。

新しい法律は次のようなものであるべきである。

1.  たとえ架空の子供のみが描かれている場合でも、ディープフェイクの児童ポルノは完全に犯罪となる。
2.  有害なディープフェイクを故意に作成したり、故意にその拡散を助長したりする者に対して刑事罰を規定する。
3. ソフトウェア開発者 と販売業者に対し、オーディオおよびビジュアル製品が有害なディープフェイクを作成しないようにすること、また、その予防措置があまりにも簡単に回避された場合は責任を負わせることを義務付ける。

Unsplash の Kanchanara による写真

neround.com を Google ニュース フィードに追加します。