ソーシャルボットはどのように世論を形成するのか？
サニャ・トライチェワ
|サイバー犯罪 | 2023年7月12日
ソーシャルボットは SNS 上で見かけない日はないくらい、私たちの日常に溶け込んでいます。ソーシャルボットと一口に言っても、その形式や目的は多岐にわたっており、新しい商品の広告や、特定の意見や思想を押し付けるものなどがあります。
これらのボットは、まるで人間のように SNS への投稿を行い、私たちの興味を惹きつけます。舞台の裏で糸を操る人形師のように、彼らは緻密に議論の流れを操作しています。
なぜソーシャルボットはこのようなことをするのか、なぜソーシャルボットについて正しく理解すべきか、その背景と理由について、もう少し掘り下げて解説します。
ソーシャルボットとは何か？
ソーシャルボットとは、SNS 上で人間のように振る舞うように設計された自動プログラムです。
これらのボットの多くは、SNS 上で偽のユーザーアカウントやビジネスアカウント、偽のウェブサイトと関わっていて、一般的な SNS を利用しているユーザーと同じように、これらのボットも SNS 上で活発にディスカッションに加わったり、スパム活動を行います。よって、これらのボットをソーシャル メディア ボットと呼んでいます。
このトピックに深く触れる前に、一つ明確にしたいことがあります。ソーシャルボットには「良い」ものと「悪い」もの、両方が存在するという事実を理解することが大切です。
「良い」ボットは、自動化ツールとして非常に実用的であり、企業の SNS 上での活動を円滑にサポートするために開発されています。
例として挙げられるのが、チャットボットです。チャットボットは自動応答ツールとして、カスタマーサポート業務において非常に重要な役割を担っています。訪問したユーザーへの対応を自動で行い、カスタマーサポートが直接対応する前の段階で、心地よいコミュニケーションを提供することができます。
しかし、多くの場合ソーシャルボットと聞くとあまり肯定的なイメージが浮かばないかもしれません。「悪い」ボットは、ネットワークの一部として、特定の目標を達成するために協力して動作することが多いです。所謂、「ボットネット」という組織的なネットワークが形成されます。
このボットネットは、SNS 上での活動を指示する指揮官のような「ボットマスター」によって操作されています。ボットネットの詳細については、こちらの記事（英文）で触れています。ボットネットは、SNS 上でのコメント投稿や「いいね！」の追加、さらには偽のフォロワー作成など、さまざまなことを行っています。
ただ、これらの活動は問題視されています。、その理由は、これらの活動の背後に隠された目的にあります。欧州議会は下記のような見解を出しています：
「偽アカウントやボットネットは、デマ情報の拡散やオンラインでの印象操作、極端な意見の増加に加担しており、民主主義への真の脅威となり得るのです。」
ソーシャルボットは何に使われるのか？
ソーシャルボットは、名前の通り、SNS 上で活発に動作するようにデザインされています。IONOS の記事でも触れられているように、文字数が少ないと文章に違和感を持たれづらいため、これらのボットは Twitter で特によく見ます。
むしろ、ソーシャルボットを見かけないプラットフォームの方が少なく、Facebook や Instagram、TikTok などの他の SNS にも Twitter と同様にソーシャルボットは存在しています。
これらのソーシャルボットは、SNS 上で「社交的な」行動を取ることで、背後にいる指揮官の意図に応じたさまざまなタスクを効果的に実行します。
ソーシャルボットが利用される一般的な例をいくつか紹介します。
誤った情報の拡散：ソーシャルボットは、不正確な情報や誤解を生む情報を発信します。その結果、SNS 利用者の間で誤った知識が共有/拡散されてしまう可能性が高まります。
世論の操作：SNS 上での大量の投稿や「いいね！」、コメントを通じて、ボットはあたかも多くの人々が特定の意見を支持もしくは反対しているかのような錯覚を作り出すことができます。この手法により、世論を特定の方向へと誘導することが可能です。
政治的な偏見：極端な意見の拡散は、政治的な言論の二極化を助長する可能性があります。極端な意見が浸透することで、社会に新しい分断が生まれ、人々の考え方に変化をもたらすことが危惧されます。
ネット上の嫌がらせといじめ：一部のソーシャルボットは、オンラインでの嫌がらせを助長するように設計されています。これらのボットは、ヘイトスピーチや誹謗中傷、その他の有害なコンテンツを拡散し、ネット上の環境を悪化させる可能性が考えられます。
不正行為：ソーシャルボットはさまざまな詐欺行為の手段として利用されることが考えられます。スパムメッセージ、フィッシング詐欺、個人情報の窃取、クリック詐欺、サイト離脱詐欺、そして無防備なユーザーを悪用するなど、実に多岐にわたります。
株式市場の操作：一部のソーシャルボットは、企業に関する虚偽情報を拡散することで、株価への影響を狙っています。これにより、インサイダー取引や市場操作といった不正行為を生じさせる可能性をはらみます。
ブランドイメージの毀損：ソーシャルボットは、否定的なレビューや中傷的な内容、虚偽の苦情などの拡散により、企業やブランドのイメージを傷つけるリスクがあると言われています。このような動きは、個人や組織の信頼性をも危うくする可能性が考えられます。
信頼性の低下：ソーシャルボットの出現により、ネット上の情報やアカウントの信憑性に疑問を持つユーザーが増える要因となり、結果的にオンラインコミュニティや SNS 全体の信頼度に悪影響を及ぼす可能性が考えられます。
SNS ユーザーの何割がボットなのか？
SNS 上の偽アカウントの正確な数は不明確ですが、その存在は大きな課題となっています。
2017 年のデータでは Twitter に登録されているユーザーの約 15 ％がボットとみられていました。さらに、2022 年のワシントン大学セントルイス校の最新の研究によると、Twitter ユーザーの 25 ～ 68 ％がボットであるとの結果が出ています。
Twitter の公式見解では、Twitter ユーザーのわずか5%がボットであるとしています。一方、Similarweb の最新の調査結果は異なる傾向を示唆しています。一部の投稿を対象にした調査にはなりますが、Twitter 上にある 20.8 %から 29.2 %のコンテンツをボットによる投稿が占めているというのです。これらの数字は、ボットの持つ世論への影響の大きさを浮き彫りにしており、SNS 上の情報の信憑性に対する疑問をさらに深めています。
公開討論におけるソーシャルボットの役割
ソーシャルボットに関する議論は尽きることがありません。特に、政治や健康、地球温暖化といったセンシティブなトピックにおいて、ボットの影響は一段と強まっています。様々な研究から、信頼度が低い情報がどれほど速やかに拡散し、オンラインの議論に微細な変化をもたらすかが明らかにされています。では、この現象はどのように生み出されるのでしょうか？
ソーシャルボットは多量のコンテンツを捏造し、それをフェイクニュースサイトと連携することで、フェイクニュースの拡散を助長しています。この仕組みの巧妙さは SNS の拡散性という特長を駆使して、自分たちのメッセージをより多くの人に広げることにあります。
さらに、そのようなボットの投稿やメッセージをリツイートしたりシェアしたりすることで、SNS のトレンドを決めるアルゴリズムまでも操作しています。
これらのボットの背後にいる指揮官たちは、ハッシュタグやキーワードの影響力も把握しており、特定のトピックに関する投稿を大量に生み出すことができます。
このような操作によって生み出されるトレンドは、多くのユーザーの目に留まり、世論に影響を与える可能性が高まっています。
ソーシャルボットが使用された実際のケース
2016 年のアメリカ大統領選挙において2016 年 9 月 16 日から 10 月 21 日に投稿された大統領選挙関連のツイートの 5 つに 1 つが、ソーシャルボットによって生成されていたというニュースは、多くの方にとって記憶に新しいことと思います。この事例は、ボットが持つ影響力を象徴するものとして、多くの議論の中心となりました。
これ以外にも、ほかにも知られざる事例も含めると多くのケースが存在しています。
興味深いことに、アメリカ国立衛生研究所（NIH）によるこちらの研究ではソーシャルボットが電子タバコの人気向上に大きな役割を果たしていると解明しています。
先進的な機械学習の技術を活用して、研究者たちは電子タバコや喫煙に関する Twitter アカウントとそのツイートを細かく分析しました。分析の際、行動のパターンや SNS でのやりとり、語感など多岐にわたる要素を考慮し、実在するユーザーとソーシャルボットを識別しています。
その結果、ソーシャルボットが電子タバコの有用性を積極的にアピールしていることが明らかになりました。
それから、2017 年のカタルーニャの独立を求める住民投票も、興味深い事例として挙げられます。この住民投票へのソーシャルボットの顕著な関与が国立科学アカデミー誌（PNAS）の公表した調査結果から明らかになりました。
当該調査においては、関連する SNS のデータを大量に分析し、「独立派」と「護憲派」という二つのグループを識別しました。
分析の結果から、どちらのグループにおいてもボットが扇動的な情報を拡散する役割を果たしていたことが確認されました。これらのボットは、不正確な情報の生成と拡散を助長し、社会の分断を加速させる活動を行っていました。
ソーシャルボットの見分け方
ソーシャルボットは、実在するユーザーと同様に振舞うよう設計されているため、ボットかどうかを見極めるのは一筋縄ではいきません。しかし、特定のポイントに注目することで明らかにすることができるのです。
NIH の専門チームは COVID-19 とソーシャルボットに関する研究に着手し、以下のような独自の興味深い手法を採用しています。
プロフィールの特性：ボットのプロフィールは一般的かつ抽象的なことが多く、プロフィール写真が少なく、経歴が設定されていなかったり、同じフレーズの繰り返しなどが見られます。
活動傾向：実在するユーザーと比べ、ボットは短期間での大量のアクセスや 24 時間休みなく活動をする傾向があります。
コンテンツの品質：ボットが投稿する内容は低品質で似通った内容ですが、文法ミスは少ないことが特徴としてみられます。
やりとりのパターン：他のユーザーとの交流が最小限で、反応や対話がスクリプトに従っていたり、一般的であることが目立ちます。
特定トピックへのフォーカス：ソーシャルボットは特定の情報、例えば政治的プロパガンダや商業的な情報を強調する傾向があり、そのトピックは多様性が欠けています。
これらのポイントを理解することで、ソーシャルボットを識別する手助けとなるでしょう。
ソーシャルボットはビジネスに悪影響を与えるか？
ソーシャルボットの活動は、世論形成に大きな影響を与えるだけでなく、、貴社を含むオンラインのビジネス環境にも影響を与えているかもしれません。
ソーシャルボットは、政治的プロパガンダや陰謀論を拡散させるだけでなく、SNS やレビューサイトにおいて、否定的なレビューの投稿なども行っています。
また、これらのボットは、アルゴリズムを操作して特定のコンテンツを推進し、実在するユーザーが投稿するコンテンツを埋もれさせてしまう可能性があります。
その結果、ビジネスの評価が下がり、潜在顧客や既存顧客の信頼を損なったり、広告費用が増加する可能性があります。
このような状況を十分に把握した上でビジネスの安全性を確保し、オンラインでの信頼性を維持するための対策を実施することは非常に重要です。
特に、SNS 上のクリック詐欺や広告詐欺といった不正行為に対して、CHEQ は効果的な防御ツールとして提供されています。ボットの活動を検知することで、貴社のビジネスにボットが悪影響を与えるリスクを下げることができます。
結論
ソーシャルボットは、今や SNS 上で欠かせない役割を果たしています。これらのボットは、一見目立たない存在ですが、世論に深く影響を与える「見えざる手」となっているのです。
その結果、私たちのコミュニケーションは、単に人間同士の交流から、人間とソーシャルボットが共存する新しいモデルへと移り変わってきました。
多くの SNS は、この問題を真摯に受け止め、不正アカウントの排除に努力しています。
しかし、完全にこれらのボットを排除するのは難しい現実もあります。
こうした背景の中で、貴社のビジネスを有害なボットから守るための対策の一環として、CHEQ のボット対策ソリューションをご検討ください。
これにより、SNS マーケティングの努力を保護し、安全かつ信頼性の高いオンラインプレゼンスを確立することができます。
筆者
サニャ・トライチェワ
コンテンツ・マーケターとしての経験を積んだサニャは、オーディエンスを鼓舞し、教育するストーリーテリングの力に深い信念を持っています。彼女は常に新しいアイデアを常に探し求め、次なる冒険を計画することを楽しんでいます。それ以外に、偽のトラフィックや広告詐欺などのトピックの習得に専念しています。
