Jack Dorsey率いる決済企業Blockは、極めて人間らしい音声AIモデル「Dessa」を発表した。会話の自然さに驚きの声が上がる一方で、詐欺や欺瞞行為を助長しかねないとの懸念も指摘されている。
Blockの説明によると、Dessaはテキストではなく人の音声のみを用いて学習しており、会話中の割り込みや笑い、トーンの変化にも対応可能だ。Dorseyは自身のXアカウントで「これと話すと人間と会話しているかのようで、感情やニュアンス、自然な間や抑揚に満ちている」とコメントしている。
デモでは、Dessaが文中で笑みを漏らす様子や、驚きに対しまるで本物の感情のような反応を示す場面もあった。Blockは会話がライブ録音され、誰もモデルの返答を指示していないとしている。
従来の音声をいったんテキスト変換して応答を生成する仕組みとは異なり、Dessaは音声を直接処理する。学習にはNvidia GB200 NVL72の単一コンピューティングシステムを採用し、M4 Maxチップ以上を搭載したMacBook Pro上でのローカル実行が可能なほどコンパクトなモデルだという。
現時点でDessaは一般公開されておらず、あくまで研究プレビュー段階となっている。
衝撃と懸念の交錯
Dessaのデモ動画はSNSで注目を集め、多くのユーザーがその自然なやり取りを評価している。XユーザーのAlexander Hoffは「こんなに人間らしい人工音声は聞いたことがない」と述べ、別のユーザーは「まるでSFの世界だ」と表現した。
一方、Binance創業者のChangpeng “CZ” Zhaoは、この自然な音声対話が教育分野での学習支援に役立つ可能性を指摘。自身の教育プロジェクト「GiggleAcademy」での活用に期待を寄せている。
しかし、この人間らしさが逆に欺瞞や詐欺に悪用される恐れを危惧する声もある。映画監督Justine Batemanは「なぜAI音声が人間のように聞こえる必要があるのか」と疑問を呈し、「人々を油断させるために使われかねない」と警鐘を鳴らす。
ジャーナリストのShiv Aroorも詐欺リスクを指摘し、「詐欺電話がパンデミック級の問題になる恐れがある」と投稿した。
DessaはSquare、Cash App、bitcoin wallet Bitkey、bitcoin mining hardware部門Protoを運営するBlockから誕生した。BlockのAI研究ラボはDorseyに直属しており、2020年に買収したトロント拠点のAIスタートアップDessaの元スタッフも関与している。
モデルの具体的な規模やベンチマーク結果、一般公開の時期については公表されていない。音声サンプルは同社によるデモのみで、独立試験の報告はない。
Blockは限定的にAI安全性研究者に早期アクセスを提供し、音声AIはテキスト化で見落としがちな痛みや苦痛といった感情の手がかりを認識する可能性がある一方、潜在的リスクの評価も進めている。
