生成AIに“アスキーアート”入りプロンプト入力→有害コンテンツ出力　米研究者らが新手の脱獄法発見

登録日 : 2024.03.06 掲載サイト :

ITmedia NEWS セキュリティ

ニュース・コラム

米ワシントン大学などに所属する研究者らは、大規模言語モデル（LLM）がアスキーアートを正しく認識できないという脆弱性を利用して、LLMに有害なコンテンツを出力させる新しいジェイルブレーク（脱獄）攻撃を提案した研究報告を発表した。...

記事を読む

関連キーワード

脆弱性攻撃

関連記事

「Claude」の“偽サイト”登場　「日本語無料版」など巧みに誘う　すでに閲覧不能も検索順位の高さは脅威

ITmedia NEWS セキュリティ

東大研究室のサーバに不正アクセス

ITmedia NEWS セキュリティ

iPhoneを狙う高度なハッキングツール「Coruna」発見　米政府から流出、犯罪集団の手に渡ったか

ITmedia NEWS セキュリティ

カラー、エヴァ30周年フェスで上映した短編アニメをYouTubeで公開　流出動画対策か

ITmedia NEWS セキュリティ

詐欺師がうっかりミス？　“詐欺メールのデザイン”のポイントを誤表記　あるフィッシングメールが話題に

ITmedia NEWS セキュリティ

人気記事ランキング

Weekly Report: Google Chromeに複数の脆弱性

JPCERT/CC注意喚起

Xerox FreeFlow Coreにおける複数の脆弱性

アイ・オー・データ製無線LANルーターにおける複数の脆弱性

複数のSchneider Electric製品におけるクロスサイトスクリプティングの脆弱性

Daikin Europe N.V.製Security Gatewayに脆弱なパスワードリカバリの問題

注目キーワードキーワード一覧

脆弱性攻撃サービスアプリ Windows JPCERT/CC Microsoft 認証 JVN Google

最新記事新着記事一覧

「Movable Type」における複数の脆弱性について（JVN#66473735）

Movable Typeにおける複数の脆弱性

抹茶シリーズにおける複数の脆弱性

CISA ICS Advisory / ICS Medical Advisory（2026年04月07日）

Weekly Report: NEC Atermシリーズに複数の脆弱性

JPCERT/CC注意喚起