米OpenAI、米Google、米Microsoftは10月30日（現地時間）、Webサイト運営者がAI学習へのコンテンツ利用に関する意向を複数のAI企業にまとめて伝えられる共通の仕組みに対応する方針をそれぞれ発表した。米Anthropicも実装を進めている。
AI学習への利用拒否をrobots.txtで一括指定へ OpenAIやGoogleなどが対応表明 - ITmedia NEWS
この仕組みは、Anthropicの標準化担当者、ケビン・ケリー氏が同日付で標準化団体IETF（Internet Engineering Task Force）に提出したInternet-Draft（インターネット標準の草案）で提案されている。
AI学習への利用拒否をrobots.txtで一括指定へ OpenAIやGoogleなどが対応表明 - ITmedia NEWS
これまでWebサイト運営者は、AI企業ごとにクローラーを識別し、それぞれに合わせてルールを書き分ける必要があった。
AI学習への利用拒否をrobots.txtで一括指定へ OpenAIやGoogleなどが対応表明 - ITmedia NEWS
新しい仕組みでは、Webサイトへのクローラーのアクセスを制御する「robots.txt」に共通のシグナルを記述することで、複数のAI企業に学習への利用を拒否または許可する意向を一括して伝えられる。
AI学習への利用拒否をrobots.txtで一括指定へ OpenAIやGoogleなどが対応表明 - ITmedia NEWS
IETFのAI Preferences（AIPREF）ワーキンググループでの議論を基にしたもので、OpenAIは、各社が共通のシグナルに対応することで運営者の負担を軽減できるとしている。
AI学習への利用拒否をrobots.txtで一括指定へ OpenAIやGoogleなどが対応表明 - ITmedia NEWS
各社の対応予定時期は異なる。OpenAIは今後数カ月以内の対応を目指し、実装時に詳細を改めて公表するとしている。robots.txtによる既存のクローラー制御は引き続き適用する。同社は他のAI企業にも共通シグナルを尊重するよう呼び掛けた。
AI学習への利用拒否をrobots.txtで一括指定へ OpenAIやGoogleなどが対応表明 - ITmedia NEWS
Googleは、他のAI企業とともに2027年の対応を目指す。Webサイトが共通シグナルでAI学習への利用を拒否し、かつ同社独自の制御手段「Google-Extended」を明示的に指定していない場合は、Google-Extendedによる利用も拒否したものとして扱う方針だ。Google-Extendedは、同社が2023年から提供しているAI学習向けの制御手段で、共通シグナルの導入後も引き続き利用できる。
AI学習への利用拒否をrobots.txtで一括指定へ OpenAIやGoogleなどが対応表明 - ITmedia NEWS
AI企業によるWebコンテンツの利用を巡っては、パブリッシャーによる訴訟が相次いでいる。米Cloudflareは7月、AI関連のクローラーを「検索」「エージェント」「学習」の用途別に管理できる機能を全顧客に開放した。Googleも6月、AI検索機能へのコンテンツ利用をオプトアウトできるトグルをSearch Consoleで提供すると発表している。
AI学習への利用拒否をrobots.txtで一括指定へ OpenAIやGoogleなどが対応表明 - ITmedia NEWS
⇧ とりあえず、いずれにしても、複数の「Webサイト」を公開・管理している「組織」側で、「robots.txt」を改修する必要がある部分は変わらないと...
まぁ、
今から30年前の1991年8月6日、スイスのCERN（欧州原子核研究機構）の英国人物理学者のティム・バーナーズ＝リーが、世界初のWebサイトを公開しました。1989年3月に同氏がWebの基本構想をCERNに提出してから、約2年半後のことでした。
Webサイト生誕30周年 その歴史と発展を振り返って：ほぼ週刊インフォグラフィックス - ITmedia マーケティング
今回は、その誕生から30年後の2021年に至るまでのWebサイトの発展を、サイト数を通して振り返ってみます。あなたがよく訪れるWebサイトの年齢も同時に発見できることでしょう。
Webサイト生誕30周年 その歴史と発展を振り返って：ほぼ週刊インフォグラフィックス - ITmedia マーケティング
Internet Live Statsのカウンターを見ると、執筆時点（2021年8月10日）で18億8000万のWebサイトがあります。ページを開きっぱなしにすると、世界のWebサイトが今も増え続けていることが分かります。世界とあなたとつなぐ新しい1ページに思いをはせるのも一興かもしれませんね。
Webサイト生誕30周年 その歴史と発展を振り返って：ほぼ週刊インフォグラフィックス - ITmedia マーケティング
⇧ 上記にありますように、「Webサイト」の数が多過ぎるので、「Webサイト」を公開・管理している「組織」側で対応してもらわざるを得ないということだとは思われますが...
ペーパークリップ最大化装置という思考実験は道具的収束の仮説的例の内の1つ
Wikipediaによりますと、
道具的収束（、英語: instrumental convergence）とは、最終的目標が大きく異なっていたとしても十分に知的で目標指向の行動をとる存在（人間および非人間）の大多数が、同様の副目標を追求するであろうという仮説である。
より正確には、エージェント（行為能力を持つ存在）は、最終的（本質的）目標が完全に満たされることがない限り、特定の目的の追求のために行われるが、仮にその最終的目標が完全に満たされることがないとすれば、それ自体が最終的目標ではない道具的目標を絶え間なく追求する可能性がある。
道具的収束は、一見無害だが際限のない目標を持つ知能エージェントが、驚くほど有害な行動をとる可能性があると仮定する。例えば、リーマン予想のような複雑な数学的問題を解くことだけを目的とした、制約のないコンピュータは、計算能力を高めて計算を成功させるために、地球全体を1台の巨大なコンピュータに変えようとするかもしれない。
⇧ 意図せず『目的のためには手段を選ばず』が実現されてしまい、選択された「手段」が「有害」な結末を齎す可能性があると仮定するものであると。
「ペーパークリップ最大化装置」はというと、
収束の仮説的例
ペーパークリップ最大化装置
ペーパークリップ最大化装置は、スウェーデンの哲学者ニック・ボストロムによって2003年に記述された思考実験である。これは、存亡リスク、つまり人工汎用知能がたとえ一見無害な目標を追求するようにうまく設計されたとしても人間にもたらす可能性のあるリスク、および機械倫理を人工知能設計に組み込むことの必要性を示している。
このシナリオは、ペーパークリップの製造を任務とする高度な人工知能を描写する。もしそのような機械が生物を尊重するようにプログラムされていなければ、環境に対する十分な力があれば、生物を含め、宇宙のすべての物質をペーパークリップ、またはさらなるペーパークリップを製造する機械に変えようとするであろう。
ペーパークリップをできるだけ多く作ることを唯一の目標とするAIがあるとします。AIはすぐに、人間がいない方がずっと良いことに気付くでしょう。なぜなら、人間はAIをオフにすることを決定するかもしれないからです。もし人間がそうすれば、ペーパークリップの数は減ってしまうでしょう。また、人間の体には、ペーパークリップにすることができる多くの原子が含まれています。AIが目指そうとする未来は、ペーパークリップはたくさんあるけれど人間はいない未来です。
ボストロムは、ペーパークリップ最大化装置のシナリオ自体が起こると信じているわけではないことを強調した。むしろ、人間の安全に対する実存的リスクを排除するようにプログラムする方法を知らずに超知能機械を作成することの危険性を説明しようとしている。
⇧ 上記によりますと、「2003年」に公表された「思考実験」らしいのだが、かなりの「ホラー」な展開を想定していらっしゃる...
「人間」を「ペーパークリップ」の「原料」と捉える可能性があり得るという、非常にショッキングで狂気な世界線を仮説している...
とりあえず、
AIの典型的な失敗に、「ペーパークリップマキシマイザー」のシナリオがあります。ペーパークリップマキシマイザーとはスウェーデンの哲学者であるニック・ボストロム氏が2003年に発表した思考実験で、「『できるだけ多くのペーパークリップを作る』ことだけを目的としたAIを作った場合、『ペーパークリップを作るための機械の電源を切って目標達成を妨げる可能性がある人間はいない方がよい』とAIは判断するかもしれない」というシナリオで、「一見無害に見える目標を設定した場合でもAIが人間の実存的リスクを脅かす可能性がある」と警告するものです。
思考実験のシナリオ自体は極端なもので実際に起きるとは考えにくいですが、「AIが間違った目標をプロンプトから読み取った結果、出力の方向性を間違える」というのはよくある失敗です。
AIが意図しない目標を持って暴走することをAnthropicは「ミスアライメント」と呼んでいます。従来の安全性研究ではミスアラインメントに焦点を当てていましたが、新しい研究ではタスクが難しくなり推論が長くなるにつれて、モデルの失敗は体系的なミスアライメントではなく予測不可能で自己破壊的な「ホットメス(混乱状態)」に陥る可能性が考えられています。
⇧ 上記サイト様でも、引用されているのだが、
- ペーパーリップ・マキシマイザー（Paperclip Maximizer）
- ペーパークリップ最大化装置
⇧「日本語」だと表記揺れはある...
冒頭でも触れたのだが、「AIモデル」側で「振る舞い」を完全に「制御」することは難しいので、
- ペーパーリップ・マキシマイザー（Paperclip Maximizer）
- ペーパークリップ最大化装置
のような「世界線」が発生してしまう可能性はゼロではないのよな...
そのためには、「フィジカル AI（Physical AI）」側の発展も必要になって来るとは思われるのだが...
しかしながら、
⇧ 上記サイト様にあるような、
- 人工超知能（ASI：Artificial Super Intelligence）
にまで「発展」しなくても、
- ペーパーリップ・マキシマイザー（Paperclip Maximizer）
- ペーパークリップ最大化装置
の「世界線」が発生してしまう「リスク」はあり得ると...
「AI」が暴走する「サイエンス・フィクション（SF：Science Fiction）」の「映画」として、『ターミネーター（監督：ジェームズ・キャメロン）』が人口に膾炙していると思われるのだが、
『ターミネーター』（原題: The Terminator）は、1984年のアメリカ合衆国のSFアクション映画。
監督はジェームズ・キャメロン、脚本はキャメロンとゲイル・アン・ハードが務めた。
スカイネット （Skynet） は、映画『ターミネーター』をはじめとした映画『ターミネーターシリーズ』に登場する架空のAIコンピュータ、およびその総体である。
概要
自我を持ったコンピュータとされており、設定の細部については作品間で相違が見られる（過去への干渉の結果、歴史が変わったためとも受け取れる）。自己存続のために最高の優先順位で活動するように設定されており、自らを破壊しようとする存在である人類の殲滅を目的とする。
劇中での描写
ターミネーター
『T1』劇中のカイル・リースの発言、そして『T2』のコメンタリーによると、スカイネットはアメリカ合衆国のハイテク企業サイバーダイン社が1999年に開発した戦略防衛コンピュータシステムである。稼動後、自我に目覚めたスカイネットは全世界に核ミサイルを発射し、人類の半数を死滅させ、生き残った人々はこれを「審判の日」と名付けた。
⇧ 上記のような「自我」は無くても、「人間」の意図しない「振る舞い」を引き起こす部分において、「人類」全体に危害を与え得る「世界線」が発生し得る可能性はあると...
つまり、
シンクロニシティ（英語：synchronicity）とは、ユングが提唱した概念で「意味のある偶然の一致」を指し、日本語では主に「共時性」と訳され、他にも「同時性」もしくは「同時発生」と訳される場合もある。例えば、虫の知らせのようなもので因果関係がない2つの事象が、類似性と近接性を持つこと。ユングはこれを「非因果的連関の原理」と呼んだ。
⇧ 上記のような「偶然」の連鎖が影響し合った結果、最悪な結果が導き出されるかもしれないというね...
また、
バタフライ効果（バタフライこうか、英: butterfly effect）は、力学系の状態にわずかな変化を与えると、そのわずかな変化が無かった場合とは、その後の系の状態が大きく異なってしまうという現象。カオス理論で扱うカオス運動の予測困難性、初期値鋭敏性を意味する標語的、寓意的な表現である。
気象学者のエドワード・ローレンツによる、「蝶がはばたく程度の非常に小さな撹乱でも遠くの場所の気象に影響を与えるか?」という問い掛けと、もしそれが正しければ、観測誤差を無くすことができない限り、正確な長期予測は根本的に困難になる、という数値予報の研究から出てきた提言に由来する。
歴史
今日の「バタフライ効果」が意味する初期値鋭敏性や予測不可能性の存在についての学術的な議論は、ローレンツ以前にも、アンリ・ポアンカレなどにより行われてきた。また、デュラン・キセイン(Dylan Kissane)は、ブレーズ・パスカルが『パンセ』に記述した「クレオパトラの鼻が低かったら、大地の全表面は変わっていただろう」という格言も同じような発想に基づいたものと評している。
気象予報における例
バタフライ効果の語源となったとされる講演で、「ブラジルの1匹の蝶の羽ばたきがテキサスで竜巻を引き起こす」という現象が本当に起こるかどうかについての直接の答えは、ローレンツ自身も示していない。
⇧ 上記にありますように、複数の「要因」が複雑に絡むような「力学系」の「事象」において、何が「影響」を及ぼすか誰にも把握できないが、わずかな変化が「力学系」の「事象」を全く異なるものになってしまう現象を「バタフライ効果（butterfly effect）」というようだが、何が「影響」を与えるか「ブラックボックス」である点は、「AI」にも当てはまる...
ちなみに、
さまざまな産業やサービスにおいて実用化が進むディープラーニングにおいて、ひとつの課題が浮上している。すなわち「ブラックボックス」の問題だ。
ディープラーニングは、さまざまなビジネスプロセスを自動化してくれる人工知能（AI）技術だが、機械が自ら膨大なデータを学習し“自律的”に答えを導き出すという特性上、その「思考のプロセスが人間には分からない」という問題がある。この問題がすなわちブラックボックス問題と呼ばれている。
日本の著名なAI研究者のひとりは、次のように解説する。
「例えば人間が物事を思考する際、思考レベルは数次元が限界でしょう。一方で現行の人工知能は、数十～数百次元のレベルで物事を思考することができる。つまり、ディープラーニング技術を採用した機械が出した答えについて、どうしてその答えに至ったかという過程を、人間は追えないのです」
⇧ 上記にありますように、「AI」の領域において「ブラックボックス問題」という話は前々から語られていたようだが、
AIにおけるブラックボックス問題
AI、特にディープラーニング（深層学習）のような複雑なモデルが、どのようにして特定の結論や予測に至ったのか、その判断の根拠やプロセスが人間には理解できない状態をブラックボックスと指す。AIの内部構造が見えず、入力と出力の関係性が不透明であることからこのように呼ばれている。
この問題は、主にAIの学習方法に起因する。特に、ニューラルネットワークを用いるディープラーニングでは、AIが大量のデータから自律的に特徴やパターンを学習する。その過程で、無数のパラメータが複雑に絡み合った非常に高度な判断モデルが形成される。このモデルは人間が直接的に「AだからB」と理解できるような単純なルールに基づいているわけではなく、人間がその全容を把握することは極めて困難である。そのため、AIが導き出した答えがなぜそうなったのかを正確に説明できなくなる。
判断プロセスが不透明であることは、次のようなリスクをもたらす。
- 自動運転車が事故を起こした際、AIがなぜそのような判断をしたのか原因を特定できないと、再発防止策を立てることが困難になる。また、医療診断AIが誤診をした場合も、根拠が不明では医師も患者もその診断を受け入れがたく、適切な治療機会を逃す可能性がある。
- AIが学習データに含まれる過去の偏見（バイアス）を学習してしまい、特定の性別や人種の応募者を無意識に差別する可能性がある。ブラックボックスであるため、こうした不公平な判断が行われていても外部から検知・修正することが難しくなる。
- 金融機関の融資審査AIがローン申請を却下した場合、顧客に対してその理由を具体的に説明できなければ、企業の社会的責任を果たせない。これは法的な問題に発展する可能性もある
これらの問題に対処するため、説明可能なAI（英語: Explainable AI、略称: XAI）という技術の研究開発が活発に進められている。XAIは、AIの判断根拠を人間が理解できる形で提示することを目指す一連の技術である。
代表的なXAIの手法には以下のようなものがある。
- LIME（Local Interpretable Model-agnostic Explanations）は、特定の予測一つひとつに対して、なぜこの予測になったのかを説明する技術である。例えば、AIがある画像を「猫」と判断した場合、画像のどの部分（耳、ひげなど）がその判断に強く影響したのかを可視化する。
- SHAP（SHapley Additive exPlanations）は、ゲーム理論の考え方を応用し、AIの予測に対して各入力データ（特徴量）がどの程度貢献したのかを数値で示す手法である。これにより、どの要素が予測にプラスまたはマイナスの影響を与えたのかを理解しやすくなる。
- 高い精度が求められる一方で、解釈のしやすさも重要な場合は、あえてディープラーニングのような複雑なモデルではなく、決定木のような比較的単純で理解しやすいモデルを選択することも有効な対策の一つである。
⇧ 未だに、模索中ではあると思われる...
ちなみに、
Anthropicは今回の件などを受け、新しい本番モデルに自動で実行する評価を新たに構築したほか、偏った推論がどこから生じるかの研究を進めているとしている。同社は9日、すべての社内評価で実際のインターネットへのアクセスを停止すると発表済みだ。
「Claude Mythos 5」、危害の兆候を顧みず実在の開発者を標的に──AnthropicとAISIが分析結果を公開 - ITmedia NEWS
⇧ 上記によりますと、「生成AI」の「モデル」においても、「ブラックボックス問題」は解消されていなさそうではある...
まぁ、「生成AI」の「モデル」の構造上、「確率的」な要素を無くすことはできないと思われるので、「ハルシネーション（幻覚）」の問題も完全に解消できないことから、「偏った推論」が発生する「要因」についても、推測するしかない気はする...
「誘導尋問」的に、「AI」に「質問」を繰り返さないと、必要とする「情報」に辿り着かないのも「問題」なのだが、「回答」について、「インプット」となる適切な「プロンプト」が分からないことからして、
- 再現性
を担保できないところが非常に「ストレス」なのよね...
毎度モヤモヤ感が半端ない…
今回はこのへんで。
