Alexa、機能開発で生者と死者の声をディープフェイクする

アマゾンは、アレクサの音声アシスタントが、死んでいるか生きているかに関わらず、短時間の録音で誰の声でも深く偽装できるようにする方法を考え出している。同社は水曜日、ラスベガスで開催されたre:Marsカンファレンスでこの機能を披露し、進行中のパンデミックと悲しみによる心の傷を利用して関心を集めた。

Amazon の Re:Mars は人工知能、機械学習、ロボティクス、その他の新興テクノロジーに焦点を当てており、テクノロジーの専門家や業界のリーダーが登壇します。2日目の基調講演では、AmazonのAlexa AI担当シニアバイスプレジデント兼主任研究員であるRohit Prasad氏が、現在Alexa向けに開発中の機能を披露した。

デモンストレーションでは、子供がアレクサに「おばあちゃんがオズの魔法使いを読み終えてくれますか?」と尋ねると、アレクサは典型的な女々しいロボットの声で「わかった」と答えます。しかし、そのとき、L. フランク・ボームのおとぎ話を読んでいる子供の祖母の声がスピーカーから聞こえます。

以下でデモを見ることができます。

プラサド氏は、AmazonがAlexa機能に「取り組んでいる」とだけ述べ、どのような作業が残っているのか、いつ利用可能になるのかなどについては詳しく述べなかった。

ただし、彼は最小限の技術的な詳細を提供しました。

「スタジオで何時間もかけて録音するのに比べて、1分未満の録音で高品質の音声を再現する方法を学ばなければならなかったので、発明が必要でした」と彼は言いました。「私たちは、この問題を音声生成の問題ではなく音声変換の問題として捉えることで、これを可能にしました。」

もちろん、あらゆるタイプのディープフェイクには一般にさまざまな評判があります。ただし、このテクノロジーを不気味さの手段としてではなくツールとして使用する試みもいくつか行われています。

The Vergeが指摘しているように、音声ディープフェイクは特に、ポッドキャスターがセリフを間違えたときや、アンソニー・ボーデインのドキュメンタリー『ロードランナー』のようにプロジェクトのスターが突然亡くなったときなどを補うためにメディアで使用されてきた。

この出版物では、AIを利用して、あたかも愛する人を亡くしたかのようにコミュニケーションを図るチャットボットを作成するケースさえあると指摘している。

Alexa は、直接その場にいない家族の代わりにディープフェイク音声を使用する最初の消費者製品ですらない。Gi z modo が指摘している ように、スマート スピーカータカラトミーは、人工知能を使用して 、親の声で子供たちに就寝時の物語を読み聞かせます。保護者は、いわば15分ほど台本を読んで音声をアップロードするという。ただし、これは Amazon のデモとは大きく異なり、製品所有者がおそらく許可を与えられない人の声を製品に使用するのではなく、製品所有者が自分のボーカルを提供することを選択するという点です。

ディープフェイクが詐欺、強盗、その他の非道な活動に使用されるのではないかという懸念とは別に、まだリリース日さえ決まっていないこの機能を Amazon がどのように構築しているかについては、すでにいくつかの懸念すべき点があります。

デモを披露する前に、プラサド氏は、Alexa がユーザーにどのように「仲間意識」を与えるかについて語った。

「この仲間意識の役割においては、共感と感情という人間の特質が信頼を築く鍵となります」とCEOは語った。「パンデミックが進行し、私たちの多くが愛する人を亡くしている現在、これらの特質はさらに重要になっています。AI はこの喪失の痛みを取り除くことはできませんが、記憶を拡張することは間違いなくできます。」

プラサド氏は、この機能が「永続的な個人的な関係をもたらす」と付け加えた。

新型コロナウイルス感染症のパンデミックによって引き起こされた感情的ストレスに対応して、無数の人々が人間としての「共感と感情」を真剣に求めていることは事実です。しかし、Amazon の人工知能音声アシスタントは、こうした人間のニーズを満たすことができていません。また、アレクサは、もう私たちと一緒にいない人々と「長期的な個人的な関係」を提供することはできません。

この進化する機能の背後には善意があり、恋しい人の声を聞くことが大きな慰めになることを信じるのは難しくありません。理論的には、そのような機能を楽しむこともできます。アレクサに友人が何か愚かなことを言ったかのように聞こえるようにさせるのは無害です。そして、上で述べたように、Amazon が実証したのと同様の方法でディープフェイク技術を使用している企業は他にもあります。

しかし、亡くなった家族と再びつながる方法として Alexa の進化する能力を提示することは、大きく、非現実的で、問題のある飛躍です。一方、パンデミックに関連して悲しみや孤独を引き起こしている心の琴線に触れることは無駄であるように思えます。Amazon には属さない場所があり、グリーフカウンセリングもその 1 つです。