ダークパターン – 人を欺くデザインの手口と対策
「ダークパターン – 人を欺くデザインの手口と対策」を読みました。
本書は、ダークパターン (またの名を「ディセプティブパターン (deceptive patterns : 人を欺くデザインパターン)」) の専門家であり、ウェブサイト「Deceptive Patterns (旧 darkpatterns.org)」の創設者としても知られている Harry Brignull (ハリー・ブリヌル) 氏による著書です。
ダークパターン (ディセプティブパターン) とは、「Deceptive Patterns」のホームページの冒頭で以下のように定義されています。
Deceptive patterns (also known as “dark patterns”) are tricks used in websites and apps that make you do things that you didn't mean to, like buying or signing up for something.
ディセプティブパターン (または「ダークパターン」としても知られています) とは、意図していないこと (たとえば、何かを購入する、サインアップするなど) をユーザーに行わせる、ウェブサイトやアプリで用いられるトリックです。
著者のブリヌル氏は、弁護士など法律の専門家と仕事をする際には、より厳密な表現として「ディセプティブ (deceptive : 人を欺く) もしくはマニピュラティブ (manipulative : 人を操る) パターン」と言うようにしているそうですが、本書においてはよりシンプルに「ディセプティブパターン」という用語を用いています。日本語版でも基本的にはこれを踏襲していますが、タイトルにおいては (日本の読者にとってよりキャッチーな？)「ダークパターン」という用語が採用されています。
本書は、ダークパターンの現状、撲滅に向けての動き (主に欧州および米国における法規制)、今後の課題、がコンパクトにまとめられています。ダークパターン研究の最新状況を俯瞰するのにうってつけであり、ウェブサイトやアプリケーションのユーザー体験 (UX) の向上に携わる方にはぜひお手にとっていただきたい本です。
この記事では以下、本書を読んで得た学びや気づきを、個人的な観点で書き記したいと思います。
ダークパターンの分類
ダークパターンの分類法については本書の第3章で取り上げられていますが、ブリヌル氏は「実用向きで、しっかりとした根拠をもとに作られている (P.93)」ものとして、Arunesh Mathur 一派の2019年の論文「Dark Patterns at Scale: Findings from a Crawl of 11K Shopping Websites」による分類法を紹介しています。
- Sneaking (こっそり型)
- Urgency (緊急型)
- Misdirection (誘導型)
- Social proof (社会的証明型)
- Scarcity (希少性型)
- Obstruction (妨害型)
- Forced Action (強制型)
この分類法は「主に EC (電子商取引) 向けではあるものの、広く捉えればあらゆる UX のカテゴリ分けに適用できる、非常に柔軟な分類法である (P.94)」としていますが、その一方で「ディセプティブパターンの分類はすでに決まりきっていて、これ以上種類が増えることはないと考えてしまいがちだが、現実には、人間の巧妙さと搾取的な行動に限界はない (P.94)」とも述べており、「万能な分類法が存在しない (P.95)」としています。実際、本記事執筆時点で「Deceptive Patterns」サイトの「Types of deceptive pattern」を見てみると、上記の分類法とは異なるアプローチが見られ、このあたりはいろいろな切り口があるのかな、という印象です。
ユーザーの認知特性に付け込むダークパターン
本書の第2章では、ダークパターンがいかにユーザーの認知特性を逆手に取り、その弱みに付け込んでいるかが紹介されています。たとえば以下のような手口です。
- 知覚的脆弱性を利用する :
- 読みにくい (小さい、薄い) 文字で肝心な情報を知覚しにくくする。
- 理解力の脆弱性を利用する :
- 読解や数的思考の負荷を高めるような複雑な表現を用いる。
- ユーザーの効率的な情報取得行動 (飛ばし読み、スキャニング) を逆手に取って肝心な情報を目につきにくくしたり、見出しラベルを紛らわしい表現にする。
- 意思決定の脆弱性を利用する :
- 認知バイアス (デフォルト効果、アンカリング効果、フレーミング効果、社会的証明、希少性効果、サンクコストの誤謬、返報性の原理) を逆手に取ってユーザーの意思決定を操る。
- 思い込みを利用する :
- ユーザーがシステムの UI に対して抱くメンタルモデルを逆手に取って、誤操作に導く。
- 消耗させプレッシャーを与える :
- 工程を複雑にして解約などを面倒にする。
- 時間制限を設けて冷静な検討や判断を妨げる。
- 感情的脆弱性を利用する :
- 羞恥心や罪悪感を刺激するような表現で、ユーザーの意思決定を操る。
認知心理学の知見は元来、ウェブサイトやアプリケーションのユーザビリティ向上に役立つものですが、反面、このように悪用することができてしまうことにも、自覚的でなければならないと感じました。
企業の目標達成にとって合理的なダークパターン
ブリヌル氏によると、「人を騙すのは人間の本能的な行動 (P.26)」であり、インターネット時代のテクノロジーの進化が「これらの行為を加速させたり、または触媒となって激化させたり (P.27)」しているのだそうです。たとえば、ユーザー行動をトラッキングする技術によってメトリクスの計測が容易になり、さらには A/B テストの普及でメトリクスを追求しやすくなっている、という具合です。
ブリヌル氏は当初、「(ダークパターンについて) 教育し、倫理規定を整え、企業を名指しして非難し、自主的に規制させれば、それで解決するものだと思っていた (P.172)」ものの「これらのアプローチには全く効き目がないと認めざるを得ない (P.172)」としています。企業経営者の目線で考えると、企業が成長や利益を追求するうえでダークパターンを用いることは「むしろ合理的であるとすら言える (P.182)」ものであり、「UI デザインを少し工夫するだけで利益を増やせて、罰則を受ける可能性が低いなら、手を出さない理由はない (P.182)」というのが現実です。
これを受けて本書では、倫理的なアプローチに代わるものとして法規制の重要性を訴えていますが、そもそもの企業活動においてダークパターンには抗いがたい魔力があるということは、意識しておく必要がありそうです。
ダークパターンと「法の遅れ (Law Lag)」
本書では第5章で、欧州および米国におけるダークパターンに関する法規制が紹介されています。たとえば、EU における「不公正取引行為指令 (UCPD)」「一般データ保護規則 (GDPR)」「消費者権利指令 (CRD)」、米国における「米国連邦取引委員会法 (FTC 法)」、などです。これらは明確にダークパターについて明記しているわけではなく、法の解釈によってある程度はダークパターンに適用できる、というもののようです。ブリヌル氏は「我々は、ディセプティブパターンを知らずに作られた古い法律と、まだ定着していない新しい法律が入り乱れた過渡期にいる。(P.201)」と述べており、(本書の巻末に日本語版解説を寄稿されている水野祐氏による著書の)「法のデザイン – 創造性とイノベーションは法によって加速する」で指摘されている「法の遅れ (Law Lag)」、つまり法律と社会の実態との乖離が、まさにダークパターンを取り巻く現状にも当てはまっていることを示唆しています。
本書の第6章では、この「法の遅れ (Law Lag)」を埋める試みとして、EU の「デジタル市場法 (DMA)」「デジタルサービス法 (DSA)」が紹介されていて、これらには「明確にディセプティブパターンとマニピュラティブ (人を操る) パターンを禁ずる条項が含まれている (P.214)」そうです。また、上述の「不公正取引行為指令 (UCPD)」に付帯するガイダンス通達 (ダークパターンに対する記述がある) や、本書執筆時点では法案段階にある「EU データ法」(2025年9月に施行予定) についても紹介されています。
本書巻末の水野祐氏による日本語版解説によると、日本においては、消費者保護に関する法律や個人情報保護に関する法律を、解釈によってダークパターンにも適用するというのが現時点で可能な対応になるそうですが、欧州にならって少しでも「法の遅れ (Law Lag)」のギャップを埋めてゆくことが、継続的に望まれるのかなと思います。
ダークパターンとアクセシビリティ
本書では、ダークパターンとアクセシビリティの関係についても、いくつか言及があります。
たとえば、文字情報の視認性の観点で、「搾取的なデザイナーはアプリやウェブサイト上で、テキストのサイズや色のコントラストを工夫して (情報をカモフラージュする) テクニックを使う (P.41)」と指摘しています。
また、「システムが、あなたは認知バイアスの中でも特に時間的に追い詰められるのに弱いと知ったら、次からあなたに対しては時間制限のプレッシャーを与えるディセプティブパターンを多めに表示する」「失読症であることが判明した人には言葉のトリックを多用して弱みにつけ込み、契約書にサインさせるなどの利益を生む行動に誘導する」「算数障害という学習障害を持つ人には、キャンペーンやセット商品、期間限定などを厄介な計算が必要な組み合わせで提示して、ユーザーを惑わす」(いずれも P.234) といった可能性も示しています。
ひとくちにダークパターンと言っても、ユーザーに与える悪影響は均一的ではなく、障害者など社会的弱者は、より顕著に悪影響を受けやすい恐れがあることを、意識したいものです。
どうすればいいのか
倫理的なアプローチによってダークパターンを撲滅することは困難ですし、法規制による解決も、大なり小なり「法の遅れ (Law Lag)」の問題が常にありそうです。こうしたことも踏まえてか、ブリヌル氏は本書の結び (第6章の「5. まとめ」) において、プロダクトデザインがユーザーにもたらす結果に対して、思慮深くあれと私達に求めています。
ソフトウェアは、企業の中の人間と、外のユーザーとの間に壁を作る。その壁を通った瞬間、ユーザーは企業にとって、スプレッドシート上の匿名の数字になり、そして企業関係者が右上へ伸ばそうと躍起になっている線グラフ上のピクセルに成り下がる。一切の人間性が排除されたデータを相手に、欺いたり操ったりといった不当行為に踏み切るのは実に簡単だ。(P.241)
プロダクトやサービスの UI をデザインする側としては、上記の危機感を常に持ち、ことあるごとに「ユーザー中心」に立ち返ることができる組織文化を醸成することが大事なのだろうと思います。
また、ウェブサイトやアプリケーションのアクセシビリティ向上を支援している私自身の立場としては、ダークパターンの問題をアクセシビリティの観点から抽出し、予防や是正につなげることもできるのではないか、と考えています。ダークパターンの多くはユーザーの認知特性に付け込む手口であること、とりわけユーザーが認知や学習の障害を抱えているとその悪影響を受けやすい恐れがあることを踏まえると、特に COGA (Cognitive and Learning Disabilities Accessibility : 認知および学習に障害を持つ人々にとってのアクセシビリティ) に関する知見は、ダークパターンを阻止するヒューリスティクスとしても活かしてゆきたいところです。もちろん、COGA 以外のアクセシビリティの観点からも、ダークパターンの問題を指摘することは可能です。その意味では、WCAG のエッセンスを組織に啓発することも、意義のあることと言えるでしょう。
もうひとつ、個人的に興味深かったのは、日本語版解説の中で紹介されていたフリー株式会社の社内プロセスの事例 (デザインチームが倫理的な課題を見つけた場合に、事業責任者に差し戻しを行う制度) です。コンプライアンスの内部通報制度は大手を中心に多くの企業で整備されていますが、コンプライアンス遵守と同様に事業活動において顧客を欺く行為は許さないという価値観を企業が宣言し、ダークパターンの内部通報制度を運用することで市場からの好評価を得られるような世の中になれば、ダークパターンを取り巻く様相も少しずつ変わってゆくのかも...と期待を込めて思いました。