※当サイトの記事には、広告・プロモーションが含まれます。

ブラウザEdgeのBing AI(現:Copilot)の回答が無限ループする事象が発生したんだが...

www.itmedia.co.jp

 米Microsoftに6年以上務めるエンジニアのシェイン・ジョーンズ氏は3月6日(現地時間)、自身のLinkedInに「Copilot Designerと責任あるAIに関する懸念」を伝える書簡を米連邦取引委員会(FTC)のリナ・カーン委員長とMicrosoftの取締役会に送ったと投稿した。投稿にはそれぞれの書簡のコピーが添付されている。

Microsoftのエンジニア、Copilotによる画像生成の危険性についてFTCに警告 - ITmedia NEWS

 Copilot Designerは、米OpenAIの「DALL・E 3」ベースのCopilotの画像生成ツールだ。ジョーンズ氏は米CNBCにも書簡を送っており、同メディアにコメントも送った。それによると、Copilot Designerの安全性の問題や欠陥についてテストしたところ、ライフルを持った十代の若者や女性の性的な描写を含む暴力的な絵、薬物使用に関連する絵などが生成できてしまったという。

Microsoftのエンジニア、Copilotによる画像生成の危険性についてFTCに警告 - ITmedia NEWS

⇧ 制御できない技術ってのは分かっていたはずなのだから、想定の範囲内な気はするんですけどね。

映画「ターミネーター(監督:ジェームズ・キャメロン)」の世界に発展しかねないことが現実味を帯びてきましたな...

ブラウザEdgeのBing AI(現:Copilot)の回答が無限ループする事象が発生したんだが...

Microsoft Excelの関数のことを、ブラウザのEdgeのBing AI(現:Copilot)に尋ねてみたら、Bing AI(現:Copilot)の回答が無限ループに突入する事案が発生...

お分かり頂けただろうか?

『どちらの方法も試してみて、自分のニーズに最も適した方法を見つけてください。』

をひたすらに繰り返す...

これは、『インフィニティハラスメント』、『インハラ』ですな!

AIが『ハラスメント』を学習してしまうとは、嘆かわしい...

ネット上を漁っていたら、

⇧ 海外でも、同様の事象が確認されている模様。ただ、海外の事例は、Windows 11で起きたらしいのだけど、自分が使っているのがWindows 10 Homeなので、完全に、Bing AI(現:Copilot)側のバグと思われる。

相変わらず、Microsoft さん杜撰な仕事ですな、流石です。

とりあえず、自分の環境では、ブラウザのEdgeを一回終了して、再度起動し直したら、解消されたけども、このバグは、ちょっと酷い...

そもそも、

atmarkit.itmedia.co.jp

Microsoft Copilotには、3種類あるらしく、

  • ブラウザのEdgeでbing.comにアクセスして利用するタイプ
  • ブラウザのEdgeの右サイドバーから起動して利用するタイプ
  • Windows 11に搭載されているものを利用するタイプ

となっているから、無茶苦茶に分かり辛い...

Wikipediaさんによりますと、

Microsoft Bingマイクロソフト・ビング)は、Microsoftが提供するポータルサイトのひとつ。開発コンセプトに「意思決定を支援する検索エンジン」を掲げ、他の検索エンジンとの差別化を図っている

Microsoft Bing - Wikipedia

旧名称は BingMSN サーチWindows Live サーチLive サーチがあり、Windows Live サーチはWindows Liveサービスの一つでもあった。初期のコードネームはKumo(クモ)

Microsoft Bing - Wikipedia

Copilot

2023年2月、MicrosoftOpenAIが開発しているGPT-4(当初はGPT-3.5)を活用した大規模言語モデル(LLM)を発表・提供を開始した。ChatGPTを筆頭とするOpenAI開発のLLMは2021年9月までのラベルなしテキストを使用して自己教師あり学習によってトレーニングされているが、Bing ChatはGPT-4に組み込まれている情報に加え、Bing内の検索結果等を反映することができ、2021年9月以降の最新情報を提供することができる。また、提供した情報に脚注出典を付け加えるため、ユーザーにより信用してもらうことが出来るとMicrosoftは説明している。また、チャット機能に限らず文章の生成や分別も可能。当初はMicrosoft Edge限定の機能だった。

Microsoft Bing - Wikipedia

またCopilotは、Google一強の検索サービス市場を崩す発端となる可能性がある。Bingのアクティブユーザー数は、Copilotの導入後増加の一途を辿っており、Copilotの導入時を100とすると、Googleは106、Bingは117が最高値となっている。これにはGoogleの会話型AIサービスの導入に関する葛藤が背景にあり、会話型AIサービスのビジネスモデルの確立が十分ではないことをThe NewYork Timesの取材に対し、サンダーピチャイ氏は理由に挙げている。実際Bingと異なり、Google製の会話型AI「Gemini」はGoogleの検索サービスから独立した形で提供されている。

Microsoft Bing - Wikipedia

⇧ とあるのだけど、BingとCopilotは別物なのか、Bingが刷新されてCopilotになったのかがよく分からん...

内部的には、Copilotの機能ということは間違いなさそうなんだが...

Microsoftのドキュメントによると、

www.microsoft.com

⇧ とあることから、内部的には、「Copilot」が利用されているのは分かったんだが、「Microsoft Copilot」はと言うと、

Microsoft Copilotマイクロソフトパイロット)は、マイクロソフトによって開発され、OpenAIGPTを用いた自然言語処理技術を用いた検索エンジン型のチャットボットであり、生成的人工知能(生成AI)の一種である。

https://ja.wikipedia.org/wiki/Microsoft_Copilot

検索エンジンMicrosoft Bing」に組み込まれて提供される生成AIチャットボットはBing AI Chat(ビング エーアイ チャット)あるいはBing AI(ビング エーアイ)と呼ばれていたが、現在はCopilotの名称が使用されている。

https://ja.wikipedia.org/wiki/Microsoft_Copilot

⇧ とあるので、Bingとは別物ってことなのか。

概要

当初の名称は "Bing Chat" であったが、2023年11月15日に "Microsoft Copilot" へ改称された。かつては、英語版Bingでは "AI-powered copilot for the web", "Copilot", Bing公式YouTubeでは "AI-powered Bing", "Copilot"と呼ばれていた。Copilotとは、航空機で言うところの副操縦士からのイメージから来ている。

https://ja.wikipedia.org/wiki/Microsoft_Copilot

⇧ うむ、分からん。

ややこしいのが、

Microsoft Copilot for Microsoft 365マイクロソフトパイロット フォー マイクロソフト365)は、マイクロソフトが提供している、OpenAI大規模言語モデル (LLM)のGPTを使用した、Microsoft 365アプリケーション、カレンダー、メール、Microsoft Graphのデータなどが連携するアプリ。

Microsoft 365 Copilot - Wikipedia

沿革

2023年3月16日に発表。

Microsoft 365 Copilot - Wikipedia

2023年4月より、一部のユーザーには実装版Copilotが提供されていた。つまり、このCopilotは単なる予定、仮定、実験段階ではなく、既に実装され、世界中に「Chosen few(小数の選ばれた人)」が実際に稼働中である。2023年4月から、数週間以内に、全世界のMicrosoft 365ユーザーに順次提供される予定とされた。

Microsoft 365 Copilot - Wikipedia

2023年11月1日より一般提供されている。価格は1ユーザーあたり年間$360で、Microsoft 365 エンタープライズプランの Microsoft 365 E3 もしくは E5 ライセンスも必要

Microsoft 365 Copilot - Wikipedia

当初はMicrosoft 365 Copilotという名称だったがMicrosoft Copilot for Microsoft 365に改名された。

Microsoft 365 Copilot - Wikipedia

⇧ とあり、Copilotに種類があるということですな。

ちなみに、

www.sbbit.jp

⇧ 上記サイト様で違いについて説明してくださっていますが、「Microsoft Copilot for Microsoft 365」の方は、Copilotが社内システムの情報も参照してしまうらしい...

情報流出のリスクとか無いんかな?

Microsoftのドキュメントだと、

learn.microsoft.com

learn.microsoft.com

⇧「Microsoft Copilot for Microsoft 365」の方のアーキテクチャしか説明してくれていないから、「Microsoft Copilot」の方が、どういう仕組みになってるのかブラックボックスですと...

とりあえず、検索エンジンが「Bing」で、その内部機能の1つが「大規模言語モデル(LLM:Large Language Model)」を利用した検索エンジン型のチャットボットである「Copilot」ということらしい。

登場人物として、

■Before

■After

というような関係ってことになるんかね、つまり、「Bing AI」から「Copilot」に世代交代したという感じかね?

う~む、めちゃくちゃ、ややこしい...

Microsoftのドキュメント作成者と、相性が悪い気がする...

いつもながら、Microsoftのドキュメントを読むのは苦行ですな...

毎度モヤモヤ感が半端ない...

今回はこのへんで。