「AIおばあちゃん」と「AI詐欺師」

2024.12.3

最近、「AIおばあちゃん」と呼ばれる新しい電話詐欺防止の取り組みが話題になっている。個人的にAIおばあちゃんと電話で遭遇したことはないが、企業やメーカーに問い合わせたときに、本物の人間と話しているのかAIと話しているのか区別がつかなかったことはある。特にメールでは、最近はほとんど区別がつかない。最近では、最初から「こちらAIの対応窓口です。ご用件をどうぞ」という案内も増えてきた。

「AIおばあちゃん」は詐欺師の時間を浪費させることで、詐欺師を苛立たせるように設計された人工知能である。例えば、こんな会話をすることができる。たとえば、こんなやり取り。

詐欺師：「おめでとうございます！100万円が当選しました！」
AIおばあちゃん：「あら、それは嬉しいわねぇ。でもちょっと待ってね、老眼鏡を探してくるから…」

さらに、AIおばあちゃんは「出るべき電話」と「詐欺っぽい電話」をきちんと選んで対応する仕組みも備えている。たとえば、登録済みの番号や信頼できる発信元には自分が直接対応し、非通知や知らない番号にはAIおばあちゃんが対応する。AIが内容を確認して、必要があれば本人に転送するという流れだ。

一方で、もし「AIおばあちゃん」がここまで進化しているなら、詐欺師側もAIを活用した「AI詐欺」を仕掛けてくるだろうというのも容易に想像がつく。そうなると、AI同士で騙し合う未来が来るのではないかと思った。最後まで人間が登場しないやり取りが今後、普通になるのかもしれない。

ちなみに、最近YouTubeで面白い動画を見つけた。1台のAIロボットが他のロボットをそそのかして一緒に帰るという内容で、これが非常に興味深かった。詐欺の話とは違うが、AI同士のやり取りという点でちょっと関連を感じた。

詐欺が多発する世の中で、AIおばあちゃんのような取り組みは被害を減らす役割を果たすかもしれない。とはいえ、AIを活用した詐欺の台頭は避けられないようにも思える。便利さとリスクは表裏一体。

ーーーー

The Battle Between AI Grandma and AI Scammers

Recently, a new initiative called “AI Grandma” has been making headlines as a way to combat phone scams. I’ve never encountered AI Grandma myself during a call, but when contacting companies or manufacturers, there are times when I can’t tell whether I’m speaking to an AI or a human. Especially with emails, it’s nearly impossible to know these days. It’s also becoming more common to hear something like, “This is the AI support line. How can I assist you?”

AI Grandma is designed to frustrate scammers by wasting their valuable time. For example, here’s how a conversation might go:

Scammer: “Congratulations! You’ve won 1 million yen!”
AI Grandma: “Oh my, how wonderful! But hang on, let me find my reading glasses…”

It must be incredibly annoying for the scammer.

AI Grandma is also equipped with a system to carefully decide which calls to answer. For example, registered or trusted numbers are directed to the actual person, while unknown or hidden numbers are handled by AI Grandma. The AI listens to the call and forwards it to the person if necessary.

On the flip side, if AI Grandma is this advanced, scammers could also deploy AI to carry out “AI-driven scams.” It makes me wonder if, in the future, phone calls might become battles between AI systems, with no humans involved until the very end.

Speaking of AI interactions, I recently came across an intriguing video on YouTube. It showed one AI robot persuading another robot to leave together. While unrelated to scams, it made me think about how AI could interact with other AI in surprising ways.

In a world where scams are becoming more prevalent, initiatives like AI Grandma could help reduce the damage caused by fraud. However, the rise of AI scams seems inevitable. We’re truly living in a time where convenience and risks go hand in hand.