Surfsharkが世界1,722人を対象に実施した調査によると、AIが生成したSNS上のコメントをボットによるものだと見抜けた割合はわずか40%でした。特に好意的で親しみやすく、論理的に見えるボットほど見破られにくい傾向が明らかになっています。研究担当者は、こうした肯定的なSNSボットが、実際のユーザーの警戒心をかいくぐるソーシャルエンジニアリング攻撃に悪用される可能性があると指摘しています。

好意的なボットほど見破りにくく警戒をすり抜ける傾向

SNS環境を再現したシミュレーションにおいて、参加者はネガティブな内容を投稿するAIボットの半数にあたる50.2%をボットだと判断しました。一方で、ボットが好意的で親しみやすい人物を装った場合の検出率は38%まで低下し、12ポイント以上の差が生じました。

Surfsharkのリサーチ＆インサイト責任者であるルイス・コスタ氏は「SNSでは、攻撃的な荒らしは誰の目にもつきやすいものです。そのため、そうしたアカウントほど見破られやすい傾向があります」と述べています。

親しみやすく論理的に振る舞うボットは相手を敵や脅威だと感じにくくさせるため、個別メッセージでのやり取りや個人情報の共有、送信されたリンクのクリックにつながりやすくなります。また、論理的に見える偽情報を信じてしまい、AIだと気づかないまま政治的・社会的な考え方に影響を受けるリスクも指摘されています。

絵文字の使用頻度や利用SNSによる検出率の違い

今回の検証では、絵文字の多用がボットを見抜く大きな手がかりとなりました。絵文字を多く使うボットは60%以上の確率で見破られたのに対し、シンプルな文面でやり取りするボットの検出率は35%にとどまり、30.6ポイントの差が開きました。

利用しているSNSの違いでも検出率に差が見られました。テキスト投稿を中心とするSNSの利用者は高い検出率を示し、Xユーザーのボット検出率は49%を記録しました。これはTikTokユーザーの38%、Facebookユーザーの39%を上回る水準です。

被害を防ぐための確認ポイント

AI生成コンテンツの精巧化に伴い、人間が見分けることは難しさを増しています。ルイス・コスタ氏は、SNS上で身を守るためのポイントとして次の3点を挙げています。

• 投稿内容ではなく、アカウント自体を確認する
• 議論が白熱しているときほど、感情に左右されやすい点を意識する
• 自分に同意しているからといって、実在する人物だと決めつけない

専門家による解説動画は、以下のURLで公開されています。 https://www.youtube.com/watch?v=PXvQn15eSc0

調査の概要と支援基金の設立

本実験はマルメ大学でインタラクションデザインを学ぶ学生と協力して準備され、2026年4月20日から26日にかけてイタリアのミラノで開催された「ミラノ・デザイン・ウィーク」のデザインコンペ「UNFOLD」にて、シミュレーション「Bot or Not」として展示されました。調査結果の第一弾は2026年5月19日、第二弾は同年9月15日に発表されています。

参加者1,722人のうち年齢を回答した828人の構成は、20歳以下が26.0%、20代が25.6%、31〜40歳が16.3%、41〜50歳が12.3%、51歳以上が19.8%でした。

また、Surfsharkはこの取り組みをきっかけに「Cybersecurity Advocacy Fund」を設立し、世界各地の学生や研究者、クリエイティブなプロジェクトを対象に年間最大10万ユーロの資金援助を行っています。

Surfsharkについて

• 拠点：本社はオランダ（リトアニアおよびポーランドにもオフィスを展開）
• 主なサービス：監査済みVPN、認証済みアンチウイルス、データ漏えい警告システム、プライベート検索エンジン、オンラインアイデンティティ生成ツール
• 主な実績・評価：CNETやTechRadarなどのメディアから有力なVPNサービスとして評価、FT1000：Europe’s Fastest Growing Companiesに掲載

本記事はSurfsharkの発表をもとに作成されています。