AI Brings Need for Robust Security
タイトル AIがもたらす強固なセキュリティの必要性
By：ロルフ・リンデマン博士
新しいテクノロジーはしばしば新しいビジネスモデルを可能にする。 それは新しい見解ではない。 最新の新技術は人工知能（AI）である。 そのような新しいビジネスモデルの最初の兆候が見えるたびに、新技術の潜在的な利益と脅威をめぐる議論が引き起こされる。 私が注目した最新の議論は、大規模な攻撃を実行するためにAIを（誤って）使用する可能性であった。 なぜなら、そこには根底にあるパターンがあるからだ。 もしそれがあなたの関心を引いたなら、私についてきてほしい。
数年前、インターネットは情報を瞬時に入手できる検索エンジンをもたらした。 すべての情報を収集し、更新し続けるには、膨大で高価な労力（固定費）がかかるが、クエリ1件あたりのコストはごくわずかで、検索1件あたりの収益が（広告）収入を生むため、採算は合う[1]。 これは通常、スケーラブルなビジネスモデルと呼ばれる[2]。
スケーラブルな攻撃の第一段階。つまり、悪意を持った人々は、スケーラブルな攻撃に基づいてスケーラブルなビジネスモデルを作り出すことができる。 私たちはすでにそうした事例を見てきた。 2013年には、何億ものパスワードが盗まれ[3]、その時点で10億以上のパスワードが盗まれた[4]。 ある意味、これがスケーラブル攻撃の第一段階だった。 これらの攻撃は、リピーター・ユーザーの認証に焦点を当てていた。 Nok NokはFIDOアライアンスの創設メンバーの一人であり、スケーラブルな攻撃[5][6]から保護するFIDO認証仕様を発表し、認証に強固なセキュリティをもたらしました。
つまり、母親の旧姓、初めて飼ったペットの名前、初めて買った車のモデル、社会保障番号などを尋ね、それらの質問に正しく答えられるのは自分だけだと思い込むのだ。 残念なことに、インターネット上の検索エンジン（上記参照）は、しばしばそのような質問の答えを見つけることができるため、攻撃者がユーザーの代わりに新しいアカウントを作成することが容易になっている。 この種の情報はどの当事者にとっても秘密とはみなされず、結果として頻繁に共有されていたため、これは本当に驚くべきことではない。 本人確認が本質的に破られる その結果、連邦金融機関審査委員会（FFIEC）は、ID 検証は一般に知識ベースの質問のみに依存し てはならないと述べた［8］。 文書中心の ID 証明は、この攻撃への対応として発展した［9］。 これは、ユーザーが自分の写真 ID と顔をスキャンし、リモート・サービスにそれらが一致することを検証させることを意味する。
スケーラブルな攻撃の第3段階 お母さんから電話がかかってきたとき、どうやってお母さんだとわかりますか？ 第一に、携帯電話のディスプレイに彼女の電話番号が表示されるかもしれない。 第二に、あなたは彼女の声を認識し、第三に、通話中、あなたは彼女があなたとやりとりする方法を認識する。 4つ目は、ビデオ通話で彼女の顔を認識することだ。 つまり、4つの独立した方法があるわけだ。 発信者番号通知」のなりすまし攻撃[10]が知られているように、電話番号に頼るのはやめよう。
では、彼女の声は？ ここでAIの出番だ。 DALL-E[11]について聞いたことがあるかもしれないが、これは大規模言語モデルを使ったエンジンで、あなたの指示（とトレーニングに使われた何億もの画像）に基づいて画像を作成する。 VALL-Eと呼ばれる同様のエンジンもあり、これはわずか3秒間の音声で訓練された後、誰の声でもシミュレートする[12]。 この技術がボンド映画[13]で使われているのを初めて見たとき、私はこれを「SF」だと思ったが、今では現実のものとなり、ダークネット上で誰でも簡単に利用できるようになるかもしれない。
お母さんの顔動画は？ 世間では「ディープフェイク」と呼ばれている。 インターネット上には、非常に説得力のある例が出回っている[14]。 ヨーロッパ最大のハッカー団体であるカオス・コンピュータ・クラブ（CCC）は、このような攻撃を使って、著名な文書中心の身元証明サービスを攻撃する方法を実演した[15]。 繰り返しになるが、この種のツールは、ダークネット上で誰でもすぐに簡単に利用できるようになるかもしれない（あるいは、すでに利用可能であるが、私は確認していない）。
ということは、残された唯一のセキュリティー方法は、彼女があなたと接する方法ということになる。 このやりとりはそう頻繁に変わるものではないと思うので、誰かが一度観察すれば、上記のツールを使って再現できる可能性が高い。 繰り返しになるが、私の声もビデオ録画も秘密とはみなされない。 それらはしばしばインターネット上で入手可能でさえある。 だから、そのような公開情報を適切なタイミングで誰も複製できない場合にのみ安全であるような方法は堅牢ではない。
ここでの「教訓」は何でしょうか？ 大規模な攻撃に対して強固なセキュリティとなると、他人の声や動画を作成することの難しさに頼ることはできません。 その代わりに、電子IDカードやハードウェアに裏打ちされたウォレットのように、ユーザーが所有するものに直接裏打ちされた暗号方式を使うか、FIDOセキュリティキーやパスキーなどに裏打ちされた強力なユーザー認証を使った、強力なセキュリティが証明されたクラウド・ウォレットのように、ユーザーが所有するものに間接的に裏打ちされた暗号方式を使わなければなりません[16]。
以前は理論的に攻撃可能であった（しかし現実的には攻撃されなかった）方法が、現在では現実的に攻撃されている（あるいは近い将来攻撃されるようになる）ためである。 この強固なセキュリティへのシフトは、不正行為を抑制し、ビジネスを加速させ、ユーザーに安心を提供することにつながり、ePromiseland[17]に近づくことになる。
