知らないと騙される！AI犯罪9つの手口と防ぎ方(ep.83)

エピソード再生

エピソード概要

【コミュニティの案内】 実践型の有料コミュニティで、みんなでAIを触っておちつこう！ ⁠https://rooom.listen.style/p/ochitsuki-ai?tab=membership⁠ 【トーク内容】 「AI犯罪なんて国家レベルの話でしょ」その油断が一番危ない。声も顔も本物そっくりに偽装され、あなたの家族や財布が直接狙われる時代はもう来ています。 香港で40億円が消えたディープフェイク会議、たった3秒の音声から作られるオレオレ詐欺、月額課金で誰でも使える犯罪用AI、正社員の中身が北朝鮮だった事件まで。実際に起きた9つの手口を、AIエンジニアのしぶちょーとAI素人のかねりんがバッサリ解説。知っておくこと自体が最大の防御になります。 【目次】 0:00:00 オープニング 0:00:27 今日のテーマ AI犯罪の最前線 0:02:00 AI詐欺の被害が急増しているデータ 0:05:44 香港ディープフェイク会議詐欺 40億円 0:12:00 フェラーリCEOなりすましを撃退した一言 0:19:20 企業のセキュリティ抜き打ちテスト 0:20:37 3秒の声で成立する音声クローン詐欺 0:33:15 生成AIで作る自作ランサムウェア 日本初の有罪 0:36:50 月額課金の犯罪用AI WormGPTとFraudGPT 0:42:26 AIエージェントによるハッキング事例 0:52:19 AIで量産した曲による音楽配信詐欺 0:58:22 正社員は北朝鮮 なりすまし労働者事件 1:06:00 総括 知ることが最大の防御になる 1:17:47 雑談 Claude MaxからCodexへ乗り換え談義 1:28:13 雑談 G検定に挑戦する企画 【今回の要チェックキーワード】 ディープフェイク（Deepfake）：AIを用いて、実在する人物の顔や声を本物そっくりに合成・改変した偽のメディア（動画や音声）のこと。 音声クローン（Voice Cloning）：数秒程度の短い音声データから、本人の声質や話すテンポ、抑揚までをAIで精密に再現する技術。 ソーシャルエンジニアリング（Social Engineering）：システムへの不正侵入などを行わず、「権威」や「緊急性」を装って人間の心理的な隙を突き、機密情報を盗み出したり送金させたりする手法。 ランサムウェア（Ransomware）：感染したコンピュータのデータを勝手に暗号化し、「元に戻したければ身代金（ランサム）を支払え」と要求する悪意のあるソフトウェア。 ジェイルブレイク（Jailbreak）：プロンプトを巧妙に言い換えるなどして、AIモデルに設定された倫理的・セキュリティ的な安全装置（ガードレール）を意図的に外させる行為。 エージェント型AI（Agentic AI）：人間がすべての手順を指示しなくても、与えられた目標（偵察、ハッキングなど）に対して自律的に計画を立て、実行まで進めることができるAI。 プロンプトインジェクション（Prompt Injection）：AIへの入力文（プロンプト）の中に悪意のある指示を紛れ込ませ、AIを乗っ取って機密情報の漏洩や不正な動作を引き起こさせる攻撃手法。の利用時に求められる、身分証明書や顔認証などを用いた厳格な「本人確認」の手続き。 —---------------------------- 【番組の概要】 日々のAIトピックを、現役のAIエンジニアがやさしく解説する対談番組。AIニュースに驚き疲れたあなたに、おちつきを提供します。AIニュースの、驚くポイント、驚かなくても良いポイントがわかります。 ★ご感想やコメントは、番組公式ハッシュタグをつけてX（旧Twitter）でポストしていただけるとありがたいです。 【番組公式Webサイト】※お便りはこちらから https://ochitsuki-ai.com/ 【公式ツール】 ・おちつきAI RAG https://ochitsuki-airag.com/ 【番組公式ハッシュタグ】 #おちつきAI 【番組公式X】 https://x.com/ochitsuki_AI 【パーソナリティ(MC)】 ▼しぶちょー ・AIエンジニア ・技術士(機械部門)  「大手機械メーカーでAI開発の最前線を担う現役エンジニア。AI（ディープラーニング）の実装スキルを証明する「E資格」を保有。機械（ハードウェア）への高度な知見も有し、双方の専門性を掛け合わせ『AIの社会実装』に貢献する。情報発信活動にも精力的に取り組み、ブログ・音声配信(Podcast/Voicy)・SNSなどで幅広く活躍。単なる技術解説でなく、行動変容を伴う情報発信を信条とする。その姿勢が評価され、2025年UJA科学広報賞 審査員特別賞