「音声クローンは安全？」とRedditで検索した方へ：まずは同意の確認から

自分の声を使えば、他の話し手の同意に関する問題はなくなりますが、保存やなりすましのリスクは残ります。録音の送信先を確認し、生成した音声を受け取る人を限定し、本人が実際に発言したものと誤解されかねない台本には注意してください。

開示された創作プロジェクト、開示されていない声の模倣、身元を偽る詐欺の試みなど、人によって想定している状況が異なることがよくあります。これらのリスクは同じではありません。個人の体験談は、同意、開示、ファイルの取り扱いを確認するきっかけと捉え、すべてのサービスや用途が安全である証拠とは考えないでください。

公開されている録音は、音声を作成するための元データとして使われる可能性があります。ただし、出来栄えは録音の内容や使用するシステムによって異なります。クリップを投稿しても、あなたの声を模倣する許可を与えたことにはなりません。無断で声を模倣した音声を見つけた場合は、証拠を保存し、掲載されているプラットフォームに報告してください。

いいえ。聞き覚えのある声だけでは、相手の身元を確認できません。特に、お金や機密情報を求められたり、至急の対応を迫られたりした場合は注意が必要です。いったん電話を切り、以前から信頼している電話番号や連絡手段で本人に連絡してください。

AI生成であることを明示すれば、聞き手は何を聞いているのか理解しやすくなります。しかし、それによって話者本人の許可が不要になったり、機密の元音声が保護されたりするわけではありません。音声を生成・共有する前に、原稿の内容、聞き手、サービスによる音声の取り扱いを検討してください。