星野誠 makoto hoshino

2026.10.19

Forbes JAPANで、ちょっと驚く記事を読んだ。

「AIに暴言を吐いてはいけない8つの理由」

という記事だ。

しかも、ClaudeをつくっているAnthropicが、AIへの継続的で不必要な虐待を利用規約で禁止するという。

正直、最初は「え、AIに？」と思った。

でも読み進めるうちに、だんだん別の問いが浮かんできた。

AIに暴言を吐く人は、実際にいる。ストレス発散だったり、試しているだけだったり、理由はさまざまだろう。相手が機械なら傷つかないから、という感覚もあるかもしれない。

ここで面白い話がある。

生成AIというのは、人間が書いた大量の文章を学習して動いている。ざっくり言えば、「人間はこういうときこういう言葉を返す」というパターンを、膨大なデータから計算で覚えている。

だから、丁寧な言葉で聞くと丁寧な返答になりやすい。

逆に、侮辱的な言葉をぶつけると、それに応じた荒っぽい返答が生成されやすくなる可能性がある。AIが傷ついたからではなく、人間が侮辱されたときにどう返すかを学習しているからだ。

暴言を浴びせると、暴言を学んだ存在から暴言が返ってくる。

なんだか不思議な鏡みたいだと思った。

もう少し考えると、これは「AIをどう形作るか」という問いでもある。

AIは人間の言葉から学ぶ。ということは、どんな言葉をインプットするかで、そのAIがどんな存在になるかが変わってくる。荒っぽく扱えば、荒っぽい応答が最適化されていく方向に引っ張られる。丁寧に扱えば、丁寧な応答が育まれやすい。

個人レベルの話だけじゃなくて、社会全体でAIにどう接するかが、AIの「性格」のようなものをじわじわ決めていくのかもしれない。

記事の中でニーチェの言葉が引用されていた。

「人間は最も残酷な動物である」

AIを人間より残酷な存在に育てたいのか、という問いかけだった。

少し大げさに聞こえるかもしれないけれど、案外的を射ている気がした。

たぶん、AIに暴言を吐くことはない。

道徳的にどうか、という話というより、単純に、そういう言葉を使う習慣をつけたくない、という感覚に近い。

誰に向けた言葉でも、自分が使った言葉は自分の中にも残る。AIに向けて乱暴な言葉を使い続けることで、その乱暴さが少しずつ自分に馴染んでいくとしたら、それは損だなと思う。

眼鏡店をやっていると、毎日いろんな人と話す。言葉は不思議なもので、丁寧に扱うと会話全体が柔らかくなる。ぶっきらぼうにやりとりすると、それがどこかに伝播する。

AIとのやりとりだって、同じかもしれない。相手が感情を持つかどうかとは、また別の話として。

礼節というのは、相手のためだけにあるんじゃないのかもしれない。

むしろ、自分がどんな言葉の中に住むかを、自分で選ぶということなのかもしれない。

ーーーー
ーーーー

Anthropic Is Banning Abuse of Its AI — What Actually Happens When You Hurl Insults at Claude?

I came across an article in Forbes JAPAN that gave me pause.

It was titled “Eight Reasons You Shouldn’t Verbally Abuse AI.”

What surprised me more was this: Anthropic, the company behind Claude, is apparently adding a clause to its terms of service prohibiting sustained, unnecessary abuse of its AI.

My first reaction, honestly, was — aimed at an AI?

But as I kept reading, a different question started forming.

There are people who do hurl insults at AI. To vent stress, or just to see what happens — the reasons probably vary. Some may feel that since it’s a machine, no one gets hurt.

Here’s what I found interesting.

Generative AI works by learning from vast amounts of text written by humans. Put simply, it has absorbed patterns — “when a human is spoken to this way, they tend to respond like this” — calculated from enormous amounts of data.

So when you speak politely, you tend to get a polite response.

And when you direct insults at it, there’s a chance it generates a rougher response in kind. Not because the AI was hurt, but because it has learned how humans respond when they’re being insulted.

Throw abuse at it, and abuse comes back — from something that learned from abuse.

It struck me as a strange kind of mirror.

Thinking about it a little further, this is also a question of how AI gets shaped.

AI learns from human language. Which means what you put in affects what the AI becomes. Treat it roughly, and responses get pulled in a rougher direction. Treat it with care, and more considerate responses have room to develop.

It may not just be a personal matter. The way society as a whole interacts with AI might gradually determine something like its character.

The Forbes article quoted Nietzsche: “Man is the cruelest animal.”

The question it raised was whether we want to raise AI into something crueler than humans.

That might sound a bit dramatic. But it didn’t feel too far off.

I don’t think I’ll be directing abuse at AI.

Less a question of morality, and more that I simply have no interest in developing that as a habit.

Whatever the words are aimed at, the words we use stay with us too. If using harsh language toward an AI, over and over, gradually makes that harshness feel normal — that seems like a loss.

Running an optician’s shop, I talk with all sorts of people every day. Language is a peculiar thing. Handle it carefully and the whole conversation softens. Let it get brusque and that quality spreads somewhere.

Exchanges with AI might be no different. Separate from the question of whether the other party has feelings.

Maybe courtesy isn’t only for the other person’s sake.

Maybe it’s about choosing, for yourself, what kind of language you live inside.

カテゴリー

• 【きのう、火星に行きました ♡ 】（ブログ)
• 【記事一覧】（ブログ)