タイトル AIがもたらす強固なセキュリティの必要性
By: Dr. Rolf Lindemann

New technologies often enable new business models.  That is not a new observation.  The latest new technology is (or more precisely the latest technological break-through has been made using) Artificial Intelligence or “AI”.  Whenever the first signs of such new business models are visible, they trigger discussions around potential benefits and threats of the new technologies.  The latest discussion that caught my attention was the potential (mis-)use of AI for running large scale attacks.  I think it is worth putting that in perspective, because there is an underlying pattern here.  If that catches your attention, you are invited to follow me…

数年前、インターネットは、瞬時に情報を入手できる検索エンジンをもたらした。 すべての情報を収集し、更新し続けることは、膨大で高価な努力（固定費）であるが、クエリーあたりのコストはごくわずかであるが、検索あたりの収益が（広告）収入を生み出すので、それは報われる。 これは通常、スケーラブルなビジネスモデルと呼ばれる。  

スケーラブルな攻撃の第一段階。つまり、悪意を持った人々は、スケーラブルな攻撃に基づいてスケーラブルなビジネスモデルを作り出すことができる。 私たちはすでにそうした事例を見てきた。 2013年には、何億ものパスワードが盗まれ、その時点で10億以上のパスワードが盗まれた。 ある意味、これがスケーラブル・アタックの第一段階だった。 これらは、リピーター・ユーザーの認証に焦点を当てていた。 Nok NokはFIDOアライアンスの創設メンバーの一人であり、スケーラブルな攻撃から保護するFIDO認証仕様を発表した。

スケーラブルな攻撃の第2段階は、知識ベースの認証に焦点を当てた。つまり、母親の旧姓、初めて飼ったペットの名前、初めて買った車のモデル、社会保障番号などを尋ね、それらの質問に正しく答えられるのは自分だけだと思い込むのだ。 残念なことに、インターネット上の検索エンジン（上記参照）は、しばしばそのような質問の答えを見つけることができるため、攻撃者がユーザーの代わりに新しいアカウントを作成することが容易になっている。 この種の情報はどの当事者にとっても秘密とはみなされず、結果として頻繁に共有されていたため、これは本当に驚くべきことではない。 本人確認が本質的に破られる その結果、連邦金融機関審査委員会（FFIEC）は、ID 検証は一般に知識ベースの質問のみに依存し てはならないと述べた。 文書中心の ID 証明は、この攻撃への対応として発展した。 これは、ユーザーが写真 ID と顔をスキャンし、リモート・サービスにそれらが一致することを検証させることを意味する。  

スケーラブルな攻撃の第3段階 お母さんから電話がかかってきたとき、どうやってお母さんだとわかりますか？ 第一に、携帯電話のディスプレイに彼女の電話番号が表示されるかもしれない。 第二に、あなたは彼女の声を認識し、第三に、通話中、あなたは彼女があなたとやりとりする方法を認識する。 4つ目は、ビデオ通話で彼女の顔を認識することだ。 つまり、4つの独立した方法があるわけだ。 発信者番号通知」によるなりすまし攻撃について知っているように、電話番号に頼るのはやめよう。  

では、彼女の声は？ ここでAIの出番だ。 DALL-Eというエンジンについて聞いたことがあるかもしれないが、これは大規模な言語モデルを使ったエンジンで、あなたの指示（とトレーニングに使われた何億もの画像）に基づいて画像を作成する。 VALL-Eと呼ばれる同様のエンジンがあり、これはわずか3秒間の音声で訓練された後、誰の声でもシミュレートする。 この技術がボンド映画で使われているのを初めて見たとき、私は「サイエンス・フィクション」だと思ったが、今では現実のものとなり、ダークネット上で誰でも簡単に利用できるようになるかもしれない。  

お母さんの顔動画は？ 世間では「ディープフェイク」と呼ばれている。 インターネット上には、非常に説得力のある例がある。 ヨーロッパ最大のハッカー団体であるカオス・コンピュータ・クラブ（CCC）は、このような攻撃を使って著名な文書中心の身元証明サービスを攻撃する方法を実演した。 繰り返しになるが、この種のツールはダークネット上で誰でもすぐに簡単に入手できるようになるかもしれない（あるいはすでに入手可能だが、私は確認していない）。  

So, the only security method that remains is the way she interacts with you.  I am sure this interaction does not change that frequently, so someone observing it once will likely be able to replicate it using the tools mentioned above.  Again, neither my voice nor a video recording of me are considered a secret.  They are often even available on the internet.  So methods that are only secure if no one can replicate such public information at the right time are not robust.

ここでの「教訓」は何だろうか？ スケーラブルな攻撃に対して強固なセキュリティとなると、他人の声や動画を作成することの難しさに頼ることはできない。 その代わりに、電子IDカードやハードウェアに裏打ちされたウォレットのように、ユーザーが所有するものに直接裏打ちされた暗号方式を使うか、FIDOセキュリティ・キーやパスキーなどに裏打ちされた強力なユーザー認証を使った、強力なセキュリティが証明されたクラウド・ウォレットのように、ユーザーが所有するものに間接的に裏打ちされた暗号方式を使わなければならない。

以前は理論的に攻撃可能であった（しかし現実的には攻撃されなかった）方法が、現在では現実的に攻撃されている（あるいは近い将来攻撃されるようになる）ためである。 この強固なセキュリティへのシフトは、詐欺を抑制し、ビジネスを加速させ、ユーザーに安心を提供することにつながり、ePromiselandに近づくことになる。