機械学習により有害コメントを判定するGoogle/JigsawのPerspectiveだが、人間が元の意味を認識できる程度に微妙な改変を加えたadversarial exampleを使用することで、判定を混乱させる攻撃に関する研究結果が発表された(論文: PDF、 Ars Technicaの記事、 The Registerの記事)。 現在のところ、Perspectiveは研究開発初期の段階だが...
関連記事
「焼肉きんぐ」「ゆず庵」など11アプリ、会員の氏名・電話番号の項目を廃止 漏えい受け予定から前倒し
ITmedia NEWS セキュリティ
Microsoftの「Agent Framework」が侵害され、認証情報を盗む不正版がPyPIで公開
ITmedia NEWS セキュリティ
ちまたの“格安GPT”、中身は偽物? 非公式APIのモデル偽装を調査した結果……
ITmedia NEWS セキュリティ
楽天証券漏えい、“テスト環境に顧客情報”のマズさ 識者「一般的でない」
ITmedia NEWS セキュリティ
AIモデルとAIエージェントをつなぐ「APIルーター」に注意? 428件を調べてわかった乗っ取り手口 暗号資産を盗む例も
ITmedia NEWS セキュリティ
はてブのコメント(最新5件)
loading...