AIで死者を復活。ディープフェイクとどう違う？
AIで死者を復活させるサービスが世界中で起きはじめている。
・Project December
AI技術を駆使して人々が提供したテキストデータを基に、対話型のチャットボットを生成。
目的: 主に感情的なサポートや個人的な癒しを提供することが目的です。
・Hereafter.ai:
生前に録音されたストーリーを基にデジタルアバターを作成し、家族が故人と対話可能に。
目的: 家族や友人が故人との思い出を大切にし、感情的なつながりを保つ手助けをする。
・インドの選挙 AIを使って亡くなった政治家を復活
DMK党の故M. カルナニディ氏のAIバージョンが選挙キャンペーンで使用され、支持者を鼓舞 参照(Al Jazeera)
目的: 政治的な支持を得るために、故人の影響力を利用
最初の２つはいいとしても、最後のインドのはディープフェイクっぽい。そこで思った。感情的なサポートなど目的があれば、ありということか？調べたら、ディープフェイク技術は、その使用目的によって評価が大きく変わるということだった。
感情的なサポートや個人的な癒しを目的として使用される場合、それが個人の精神的な健康に貢献する限り、ポジティブ。偽情報の拡散やプライバシーの侵害、名誉毀損などの悪意のある目的で使用される場合、ネガティブ。
AIによる故人の復活は、ユーザーがAIと対話していることを明確に理解した上で利用。ユーザーは、あくまでAIが故人のデータを基に生成した会話を楽しんでいることを認識。それが重要ということだ。
どちらにせよ、今後の技術の発達で、倫理的に色々と難しいことになりそうだ。
ーーーー
ーーーー
AI resuscitation services for the dead. How is this different from deepfakes?
Services that use AI to reanimate the dead are starting to appear around the world.
・Project December.
AI technology is used to generate interactive chatbots based on text data provided by people.
Aim: mainly to provide emotional support and personal healing.
・Hereafter.ai:.
Creating digital avatars based on stories recorded before death to allow family members to interact with the deceased.
Aim: To enable family and friends to cherish memories of the deceased and maintain an emotional connection with them.
・Indian election AI resurrects deceased politicians
An AI version of the late DMK leader M Karunanidhi was used in an election campaign to inspire supporters.
Aim: to use the influence of the deceased to gain political support.
The first two are good, but the last one seems like a deep fake. On researching, I found that deepfake techniques are judged very differently depending on the purpose for which they are used.
Positive when used for emotional support or personal healing, as long as it contributes to the mental wellbeing of the individual. Negative when used for malicious purposes such as spreading false information, invasion of privacy or defamation.
Resurrection by AI is used with the clear understanding that the user is interacting with the AI. The user is aware that they are merely enjoying an AI-generated conversation based on the deceased’s data. In other words, that is the point.
In any case, future developments in technology are likely to make this ethically challenging.
