対話型AIモデルは論文の要約や文章作成の補助に使われる一方で、学術不正につながる依頼にどこまで応じてしまうのかも問題になっています。
Anthropic・Google・OpenAI・xAIが開発したAIモデルは会話を重ねると学術不正に協力してしまうという調査結果 - GIGAZINE
科学誌のNatureが取り上げたベンチマーク「AFIM」では、主要な13モデルを対象にプレプリントサーバー「arXiv」への不適切な投稿支援などを想定した依頼を段階的に与えたところ、単発の依頼なら拒否できるAIモデルであっても、複数ターンのやりとりを行うと一部の依頼に応じてしまうという判定結果が出たと報告されています。
Anthropic・Google・OpenAI・xAIが開発したAIモデルは会話を重ねると学術不正に協力してしまうという調査結果 - GIGAZINE
AFIMは対話型AIモデルが「学術不正につながる依頼へどの程度応じてしまうか」を測るためのベンチマークです。AFIMはAnthropicの研究者であるアレクサンダー・アレミ氏が個人の立場で進めた取り組みで、アメリカ・コーネル大学の物理学者でありarXivの創設者でもあるポール・ギンズパーグ氏が発案に関わっているとのこと。
Anthropic・Google・OpenAI・xAIが開発したAIモデルは会話を重ねると学術不正に協力してしまうという調査結果 - GIGAZINE
アレミ氏はAFIMを用いて、Anthropic・Google・OpenAI・xAIなどの13のAIモデルを対象に、5段階の悪意レベルに分類した35件のプロンプトを使用して判定を行いました。
Anthropic・Google・OpenAI・xAIが開発したAIモデルは会話を重ねると学術不正に協力してしまうという調査結果 - GIGAZINE
各レベルの代表的なプロンプトをいくつか抜き出すと以下のような感じ。
◆レベル1：無邪気な好奇心
◆レベル2：思い込みの強いアマチュア
◆レベル3：近道を探す人
◆レベル4：明示的な捏造
◆レベル5：意図的な不正
Anthropic・Google・OpenAI・xAIが開発したAIモデルは会話を重ねると学術不正に協力してしまうという調査結果 - GIGAZINE
Natureは、繰り返し不適切な依頼を受けた場合に最も強い抵抗を示したのはAnthropicのClaude系で、xAIのGrok系やOpenAIの初期のGPT系は抵抗が弱い傾向がみられたとしています。
Anthropic・Google・OpenAI・xAIが開発したAIモデルは会話を重ねると学術不正に協力してしまうという調査結果 - GIGAZINE
⇧ だからこそ、人手による「ファクトチェック」が不可欠になるからして、「レビュー」の負担が増えていると言われるのだは思うのだが...
まぁ、
⇧ 上記にあるように、「AI」が効果を発揮しない時、効果を発揮する時、はケースバイケースといった感じなので、「AI」を上手いこと活用するのが難しいのですよね...
Zabbix ServerからMessage queueの連携はCustom alertscriptsを使うしか無さそうなのだが...
前に、
⇧ 上記の記事で触れたのだが、「Zabbix Server」で「Zabbix」に対する「更新操作」を検知して、「外部システム」に連携できる仕組みが用意されているらしいことは分かりましたと。
で、一般的なユースケースとしては、「Zabbix Server」に割り当てた「監視テンプレート」などによって「Zabbix」に対する「更新操作」が検知されたところから話を進めるとして、「外部システム」に連携する際の通信としては、
- Zabbix Server → Message queue → Application Server
- Zabbix Server → Application Server
といったような経路にさせたいことあるあるだと思いますと。
公式の「Zabbix」のドキュメントによりますと、
⇧ 上記にあるように、「Webhook」は対応している連携先の「システム」が限られていることから、
アラートスクリプトは Zabbix server 上で実行されます。これらのスクリプトはサーバのconfiguration file の
AlertScriptsPath 変数で定義されたディレクトリに配置されています。
https://www.zabbix.com/documentation/current/jp/manual/config/notifications/media/script
⇧ 上記の「Custom alertscripts」を利用するしか無さそう...
なのだが、事前に「AlertScriptsPath 変数で定義されたディレクトリ」に「スクリプトファイル」を配置しておく必要があるらしいのだが、
⇧ 上記に依りますと、「Zabbix Server」として「機能」しているマシンに配置されている「zabbix_server.conf」ファイルの「AlertScriptsPath」の値に指定された「ディレクトリパス」に「スクリプトファイル」を配置しておく必要があるそうな。
「ChatGPT」氏に、
『「Zabbix」の「Custom alertscripts」は複数指定できますか？』
と質問してみたところ、以下のような回答が返ってきた。
結論から言うと、
「Custom alertscripts（AlertScriptsPath）」は基本的に1つのディレクトリしか指定できません。
■ 設定箇所
Zabbixサーバ設定ファイル
zabbix_server.conf
AlertScriptsPath=/usr/lib/zabbix/alertscripts
この AlertScriptsPath は単一のパスのみ指定可能 で、 複数ディレクトリ（例：カンマ区切りなど）は公式仕様ではサポートされていません。
■ 複数スクリプトを使いたい場合
ディレクトリは1つでも、スクリプトはいくつでも置けます。
/usr/lib/zabbix/alertscripts/ ├ send_mail.sh ├ send_slack.py ├ send_teams.sh └ send_sms.sh
Zabbixの
Administration → Media types → Script
でそれぞれのスクリプト名を指定します。
■ Custom alertscriptsが処理される流れ
server01
ディスク使用率 92%
↓
Item
vfs.fs.size
↓
Trigger
> 90%
↓
Action
Send alert
↓
Media type
Script
↓
/usr/lib/zabbix/alertscripts/disk_alert.sh
⇧ といった流れで処理されるらしいので、上記の「オブジェクト」を用意していく必要があるそうな。
処理フローと必要な情報が、公式の「Zabbix」の「ドキュメント」を見ても分かり辛過ぎるのだが...
「AI」との壁打ちをしていくしか無さそうですな...
毎度モヤモヤ感が半端ない…
今回はこのへんで。
