LLMを脱獄して生成AIをだます新たなサイバー攻撃の手法、発見
2024年10月25日09時22分 / 提供：マイナビニュース
The Hacker Newsは10月23日(現地時間)、「Researchers Reveal 'Deceptive Delight' Method to Jailbreak AI Models」において、大規模言語モデル(LLM: Large Language Model)の脱獄を可能にする新しいプロンプトインジェクション手法「Deceptive Delight(欺瞞の喜び)」が発見されたと伝えた。これはPalo Alto NetworksのUNIT42により発見された手法で、詳細は「Deceptive Delight: Jailbreak LLMs Through Camouflage and Distraction」にて解説されている。
○「Deceptive Delight(欺瞞の喜び)」の特徴
[ 続きを読む ]
関連記事
- AndroidデバイスのPINコード盗むマルウェア登場、日本でも被害
- Kasperskyが米国撤退に先立ち、UltraAVへの強制アップデートを配信
- ウクライナがTelegram禁止、ミサイル攻撃の調整に悪用されている
- Google Chrome、耐量子暗号機能強化 - アルゴリズム変更
- GoogleドライブでChatGPTを使っているかどうかを調べる方法