kfujitoの徒然（ｂｙ浮沈子）

ＡＩ：愛国的ＡＩ


（ファーウェイのスマホにロシアの音声アシスタントが使われるかもしれない）
https://jp.rbth.com/science/82432-huawei-ni-yandex-onsei-ashisutanto

「ヤンデックスは2年前にこの「アリサ」を発表した。SiriやGoogleアシスタントと並んで、「アリサ」はブラウザで情報を検索したり、天気について知らせたり、アプリを開いたり、エマージェンシーサービスに電話したり、どのレストランに食べにいけばいいのかを教えてくれるなど、日常のあらゆる課題を遂行することができる。」（２０１９年の記事であることに注意）

AI以前の製品で、音声アシスタントなロシア版のSiriといったところか。

グーグルの音声アシスタントやアマゾンのアレクサに相当する。

ロシアでは、これと大規模言語モデルを組み合わせたサービスを行っているらしい・・・。

（ロシア攻撃キャンペーンの評価、2024 年 5 月 19 日）
https://www.understandingwar.org/backgrounder/russian-offensive-campaign-assessment-may-19-2024

「ロシア安全保障会議のドミトリー・メドベージェフ副議長は、ロシアのインターネット技術・通信会社ヤンデックスの大規模な言語モデルが現在進行中のロシアの情報活動と一致する応答を提供できていないとして脅迫した。」

まあ、AIの話題というか、メドベージェフのぶち切れた言動というか。

「メドベージェフ大統領は5月19日、ヤンデックスの音声アシスタント「アリサ」（表向きはアマゾンのアレクサに似ている）が、ロシアの海外資産やウクライナにあるとされる記念碑のナチス支持者への押収を承認する米国法に関する質問に答えることができなかったとして批判した。」

「メドベージェフは、ヤンデックスの人工知能（AI）はこれらの質問に対して望む答えを提供できない「卑怯者」であると主張し、ヤンデックスが西側顧客を怒らせることを懸念している可能性があることを示唆した。」

「メドベージェフ氏は、ヤンデックスがこれらの質問に答えようとしないと思われることは、ヤンデックス製品に対する信頼を大きく損なうものであり、ロシア政府がヤンデックスのサービスを「不完全」と認識し、さらにはヤンデックスの現在の経営者を「外国代理人」と認定する根拠を与える可能性があると示唆した。」

なんか、べらぼーな話のような気がする。

しかし、ロシアでは、愛国的であることが何より重視されるのかもしれない。

たとえAIであったとしても・・・。

「ロシアの報道機関RBKは、ロシア当局者が以前、同様の大規模な言語モデルに対して十分な愛国的な反応を生成できなかったとして苦情を提出したと報じた。」

やれやれ・・・。

例によって、今日もAI先生に訊いてみよう。

（CohereForAI/c4ai-command-r-plus）
https://huggingface.co/spaces/CohereForAI/c4ai-command-r-plus

「Ｑ.ＡＩにとって、愛国的であることは必要でしょうか」

「Ａ.AIは機械であり、人間の持つような愛国心や忠誠心といった感情や価値観は持ちません。AIにとって重要なのは、その設計やプログラムに基づいて効率的かつ効果的に機能することであり、特定の国家や文化への忠誠心を示すことは想定されていません。

AIの開発や利用においては、倫理的・法的枠組みの中で、AIが社会に有益な影響を与えることが求められます。AIは、国境を越えた問題やグローバルな課題に取り組むために活用されることがあり、その際には特定の国家や文化に偏ることなく、公平性や透明性を保つことが重要となります。

また、AIはさまざまな文化や価値観を持つ人々に利用されるため、文化的な多様性や中立性を尊重する必要があります。AIが特定の文化や価値観を優先したり、他の文化を軽視したりすることは、AIの利用や普及において問題を引き起こす可能性があります。

したがって、AIが愛国的である必要はありませんが、AIの開発や利用においては、倫理的・文化的考慮事項を尊重し、社会に有益な影響を与えることが求められます。」

うーん、見事な回答だな。

ロシアでは、ＡＩ開発は様々な困難に直面しそうだ。

「クレムリンがロシアの情報空間に対する統制を強化する努力を続ける中、ロシア当局者らは、大規模な言語モデルの欠点と格闘し続ける可能性が高い。」（ISW）

仮想空間における機能であったとしても、その開発や利用はリアルな世界で行われる。

「倫理的・文化的考慮事項を尊重し、社会に有益な影響を与えることが求められます。」（再掲）

開発者がシベリア送り（最近は、北極圏送りか）になっちまったら元も子もないからな。

AIは、様々な国で開発され、世界中で利用されている。

しかし、それが人の作りしものである以上、完全でもなければ中立公正無私である保証もない。

ロシアのように、愛国心を求められることもあるかも知れないし、センシティブな話題に対する回答を控えたりするかもしれない。

AIに、それらの回答を求めること自体にも問題はある。

浮沈子は、無自覚にコマンドRプラスに「愛国心」について問いかけたが、AIにそういう質問をすることそのものが問題だ。

「AIは機械であり、人間の持つような愛国心や忠誠心といった感情や価値観は持ちません。」（再掲）

しかし、教育訓練によって、そういう設えにすることはいくらでもできるだろう。

人間が、AIに問いかけ、自らが熟慮して判断すべき事柄の答えを得ようとする時、人類の本当の危機が訪れるのかもしれない。

＜以下追加＞ーーーーーーーーーー

（「人類に壊滅的なリスクをもたらすAI」を安全に提供するためにAnthropicが既存ポリシーの反省点を公開）
https://gigazine.net/news/20240520-anthropic-ai-responsible-scaling-policy/

「AnthropicはAIの性能向上に伴う安全への脅威を「AI安全レベル(ASL)」と呼ばれる指標で分類」

・ASL-1：重大なリスクをもたらさないAI
・ASL-2：生物兵器の開発などに悪用される兆候を示すAI
・ASL-3：検索エンジンや教科書と比較して壊滅的なリスクをもたらすAI
・ASL-4：現状のAIとはかけ離れた性能を持ち危険度を定義できないAI

記事を読んでも、アンソロピックが何を反省したのかがよくわかんないんだがな。

＜改善の必要があるもの：事例＞

「新世代のモデルには各モデルごとに異なる新たな機能が追加されており、将来のモデルの特性を予測することは困難」

「化学、生物学、放射性物質、核という比較的確立された分野であっても、専門家ごとに『どのリスクの影響が大きいのか』「AIの能力がどのようなリスクを及ぼすのか』といった意見に相違がある」

＜今後も引き継ぐべき操作：事例＞

「各分野の専門家との迅速的な応答サイクルは、テストやタスクの問題点の認識に役立った」

「脅威モデルを定量化する試みは優先機能や優先シナリオを決定する際に役立った」

うーん、ワケワカ・・・。

「Anthropicは既存のポリシーからの反省点を踏まえてポリシーを改善し、新たなポリシーを近日中に公開する予定」

期待しよう。

「AnthropicのアモデイCEOは、ASL-4に位置付けられる「現状のAIとはかけ離れた性能を持ち危険度を定義できないAI」が2025年～2028年のどこかで登場すると予測」

シンギュラリティは、２０４０年代と言われてたような気がするんだがな。

「AIの安全性に対する姿勢は企業ごとに大きく異なっています。例えば、OpenAIではAIの安全性についての研究チームが解散していたことが明らかになっています。」

やれやれ・・・。

AI自体がノンポリであったとしても、それを使う側の人間は欲望と偏見の塊だからな（そうなのかあ？）。

ポチっとするだけで、人類を破滅に導く生物兵器の作り方とかを表示するかもしれないし、決して防御出来ないコンピューターウイルスをコードするかもしれない。

特殊な教育や訓練を受けた人間だけが、限られた組織の中で、管理監督を受けて開発していたあらゆる種類の「危ない話」が、世界中に拡散するのだ。

ヤバいな・・・。

ヤバ過ぎ！。

全米ライフル協会というのがあるそうだ。

（全米ライフル協会）
https://ja.wikipedia.org/wiki/%E5%85%A8%E7%B1%B3%E3%83%A9%E3%82%A4%E3%83%95%E3%83%AB%E5%8D%94%E4%BC%9A

「標語：Guns don't kill people, people kill people.
（銃が人を殺すのではない、人が人を殺すのだ）」

そのうち、全米AI協会とかが出来て、「ＡIは人を殺さない、人が人を殺す」なんてスローガンがまかり通るようになるんだろうな。

AIリテラシーの確立が急務だ。

レベル４（ASL-4）のAIが登場するのは、早ければ来年と予想されている。

が、人間の教育や制度の確立、それらを有効に機能させるための社会の仕組みづくり、不心得者（誰？）を見つけ出して、適切な方法で抑止する方策を作り上げるなどには、膨大な時間と慎重な検討が必要だ。

試行錯誤の中で、銃規制と同じような話が繰り返されるに違いない。

いつか来た道・・・。

AIの普及は急速だ。

我々は、もう、二度と元に戻ることは出来ない。

賽は投げられ、ルビコン川はとっくに渡っちまった。

その解決方法をAIに尋ねてみても始まらない。

それは人間自身が無い知恵を絞り、自ら考えて取り組むしかないのだ・・・。

＜さらに追加＞ーーーーーーーーーー

（ロシア企業が開発のＡＩ、「ひどい臆病者」と前大統領激怒…ウクライナ問題に「勉強中」とのみ回答）
https://www.yomiuri.co.jp/world/20240520-OYT1T50161/

「批判されたのは、「ヤンデックスＧＰＴ」。米オープンＡＩの「チャットＧＰＴ」に類似し、質問に自然な文章で回答するサービス」

「第２次世界大戦中にナチス・ドイツに協力したウクライナの民族主義者ステパン・バンデラの記念碑の場所などについて聞いたところ、「勉強中」と答えた」（メドベージェフ氏）

「メドベージェフ氏は「ひどい臆病者だ」とＳＮＳ上で激怒」

なんか、大したことない話に聞こえるんだがな。

（ステパーン・バンデーラ）
https://ja.wikipedia.org/wiki/%E3%82%B9%E3%83%86%E3%83%91%E3%83%BC%E3%83%B3%E3%83%BB%E3%83%90%E3%83%B3%E3%83%87%E3%83%BC%E3%83%A9

「ウクライナ民族主義運動のリーダーであり、その生涯をウクライナ独立に捧げたバンデーラは、ドイツがウクライナ独立を支持してくれるとの期待から独ソ戦でドイツ側を支持した」

「1941年6月30日にバンデラはウクライナ国家再生宣言したことで逮捕・強制収容所送り」

「以降はナチスとソ連の両方から迫害」

「バンデーラが英雄視されるようになるのは、ソ連崩壊によるウクライナ共和国として独立後して、反ソ言動が罪に問われなくなってから」

「ウクライナの首都であるキエフの「モスクワ通り」は、キエフ市議会の決議により、バンデーラを顕彰して「ステパーン・バンデーラ通り」に改名」

「テルノーピリに建立された、バンデーラの銅像」

なんだ、日本語のウィキにも出てるんじゃん！。

「臆病者」かどうかは別として、ヤンデックスＧＰＴが「不勉強」なことは確かだな・・・。

（ステパン・バンデラの追悼）
https://en.wikipedia.org/wiki/Commemoration_of_Stepan_Bandera

「ウクライナのさまざまな都市には、ステパン・バンデラの記念碑が数多くあります。」

えっ？、テルノーピリだけじゃないの？。

「40以上の記念碑が建てられています。」

＜＜ウクライナ＞＞

＜イバノフランキウスク州：１０か所＞２・６・１・１
・イバノフランキウスク：記念碑：2009 年
・ホロデンカ：花崗岩の胸像：2008 年
・コロミア：記念碑：1991 年
・フラビフカ：記念碑：2008 年
・ミキティンツィ：ブロンズ胸像：2007 年
・Serednyi Bereziv：？：2009 年
・スニアティン：記念碑：2015 年
・スタルイ・ウーリニフ：記念碑：1990 年
・タタリフ：胸像：？
・ウジン：胸像：2007 年

＜リヴィウ州：２０か所＞３・４・６・７
・リヴィウ：記念碑：2007 年
・ボリスラフ：記念碑：1998 年
・ヴェリキ・モスティ：記念碑：2012 年
・ドロホビッチ：全身像：2001 年
・ダブリアニ：記念碑：2004 年
・カミアンカ・ブズカ：記念碑：？
・ミコラーイウ：記念碑：2012 年
・モスティスカ：記念碑：？
・サンビル：記念碑：2011 年
・スコーレ：記念碑：2011 年
・スタルイ・サンビール：記念碑：2008 年
・ストリイ：記念碑：？
・トラスカヴェッツ：記念碑：2010 年
・トゥルカ：青銅の全身像：2009 年（2012 年落成）
・チェルボノフラド：？：？
・Velykosilky：青銅の胸像：2011 年
・Volya-Zaderevatska：青銅の胸像：？
・ホルディニア：記念碑：？
・ホリシュニー：ブロンズ像？：2011 年
・クルシェルニツィア：記念碑：？

＜リヴネ州：２か所＞０・０・２・０
・ズドルブニフ：記念碑：2012 年
・ムリニフ：記念碑：2016 年

＜テルノーピリ州：１１か所＞３・５・２・１
・テルノーピリ：記念碑：2008 年
・ベレザニー：？：？
・ブッハッハ：記念碑：2007 年
・ザリシキキ：記念碑：2006 年
・クレメネツ：記念碑の胸像：2011 年
・ピドヴォロチスク：胸像： 2006 年
・テレボヴリア：記念碑胸像：1999 年
・ヴァービフ：？：2003 年
・コジフカ：記念碑：1992 年
・ストルシフ：記念碑：2009年
・チョルトキフ：記念碑：2013 年

＜フメリニツキー州：１か所＞０・０・１・０
・フメリニツキー：記念碑（予定？）：2017 年

＜＜米国＞＞

＜ミシガン州：１か所＞
・シオタウンシップ：？：？

米国を勘定に入れなくても、４４か所ある。

べらぼーめ・・・。

作成された年は、１９９０年から２０１７年だが、多くは２００６年以降だ。

・１９９０～２００５：８か所
・２００６～２０１０：１５か所
・２０１１～２０１７：１２か所
・不明：９か所（米国除く）

まあ、これ以外にもないとは言い切れないしな。

ヤンデックスＧＰＴは、猛勉強しないとな・・・。