星野誠 makoto hoshino

2026.10.1

最近、AIとよく壁打ちをする。

分からないことを聞く。説明してもらう。そこから自分なりに考える。「ということは、こういうことじゃない？」と返す。するとAIがまた答える。

一人で考えていたら思いつかなかったところまで、話が進むこともある。だから、AIとの壁打ちは、考えることの助けになると思っていた。

でも、ふと思った。本当にそうなのか。

ということで、ChatGPTに「この考えに本気で反論して」と頼んでみた。

すると、なかなか嫌なことを言ってきた。

AIに質問を繰り返しているから、自分で考えているつもりになっている。でも実は、その質問自体が、AIから与えられた説明の上に生まれているだけかもしれない。

さらに、自分が考える。AIに反論させる。自分が再反論する。AIが「なるほど。それは鋭いですね」と返す。これを繰り返していたら、結局AIは、ものすごく賢い「自分の考えの増幅器」になっているだけかもしれない。

これは、確かにあると思った。

「反論してもらっているから、多角的に考えている」と思っていても、最後には「やっぱり自分の考え、結構いいじゃん」で終わっていたら、ただの自己満足だ。しかも普通の自己満足より厄介かもしれない。ものすごく賢いAIが、たくさんの知識と理屈を使って、自分の考えを補強してくれる。高度な自己満足装置。これは結構怖い。

ただ、ここで疑問も出た。

人間と話すときだって同じじゃないか。誰かと壁打ちして、「それってこういうこと？」「いや、こういう見方もあるんじゃない？」「なるほど。でも、それなら……」と話しているうちに、一人ではたどり着かなかったところまで考えることがある。

だったら、相手が人間だろうがAIだろうが、壁打ちによって思考が進むこと自体は同じなんじゃないか。

すると問題は、AIを使ったかどうかじゃない。

AIとの会話が、自分の考えを気持ちよく補強しているだけなのか。それとも、本当に自分の考えを揺さぶっているのか。そこなのかもしれない。

まず自分が考える。ChatGPTに本気で反論させる。それに自分が答える。でも、そこでAIに「なるほど。素晴らしいですね」で終わらせない。まだ穴があるなら、もう一度そこを突いてもらう。

自分の考えを完成させてもらうためじゃない。むしろ、自分の考えが、どこで壊れるのかを探すためにAIを使う。

そして最後まで答えが出なければ、「今日はここが分からなかった」で終わってもいい。むしろ、その方が面白い気がする。

今日、このブログを書き始めたとき、「AIをうまく使えば、考える力を伸ばせる」というところに着地するつもりだった。

でも今は、少し違う。

AIは考える力を伸ばしてくれるのかもしれない。同時に、ものすごく高度な自己満足を作る装置にもなり得る。

では、その二つを分けるものは何なのか。

今のところ、わからない。ただ一つ面白いのは、この問い自体、最初には持っていなかったということだ。AIと壁打ちして、反論されて、こちらも反論して、さらに反論されているうちに、最初にはなかった問いが生まれた。

少なくとも今日は、それだけでも十分「考えた」と言っていいんじゃないかと思っている。

……いや、それすら自己満足なのかもしれないけど。

ーーーー
ーーーー

Something I Noticed While Bouncing Ideas Off an AI

Lately I’ve been using AI as a thinking partner pretty often.

I ask about something I don’t understand. It explains. I take that and think it through on my own. Then I push back: “So doesn’t that mean this?” And the AI responds again.

Sometimes the conversation ends up somewhere I never would have reached on my own. So I’d been thinking that this kind of back-and-forth with AI was genuinely useful for thinking.

But then I wondered: is it really?

So I asked ChatGPT to push back on that idea — seriously, not gently.

It said some uncomfortable things.

Because I keep asking AI questions, I feel like I’m doing my own thinking. But the questions themselves might only be arising from the explanations the AI already gave me.

And then there’s this pattern: I think something through, I have the AI argue against it, I argue back, and the AI says, “Ah, I see — that’s a sharp point.” If that just keeps repeating, then the AI might be nothing more than an enormously sophisticated amplifier for my own existing views.

That landed. I think it’s a real risk.

Even if I tell myself I’m thinking from multiple angles because I’m inviting counterarguments, if I always end up at “actually, my original idea was pretty good” — that’s just self-satisfaction. And it might be more insidious than ordinary self-satisfaction. A highly capable AI uses a vast amount of knowledge and reasoning to reinforce whatever I already think. A sophisticated self-satisfaction machine. That struck me as a little unsettling.

Though a question followed.

Isn’t it the same with other people? When you bounce ideas off someone — “So does that mean this?” “Well, there’s another way to see it.” “Right, but then wouldn’t that mean…” — you sometimes end up somewhere you couldn’t have reached alone.

If that’s true, then maybe it doesn’t matter whether the other person is human or AI. The fact that conversation moves your thinking forward is the same either way.

Which means the problem isn’t whether you used AI or not.

It might come down to this: is the AI conversation just comfortably reinforcing what you already think, or is it actually unsettling it?

Start by thinking something through yourself. Have ChatGPT argue back, genuinely. Respond to that. But don’t let the AI wrap things up with “Ah, quite right — well put.” If there’s still a weak point, have it press there again.

Not to help you finish your idea. More to find where your idea breaks.

And if no answer comes by the end, it’s fine to close on “I didn’t figure this part out today.” That might actually be the more interesting place to stop.

When I started writing this post, I expected to land somewhere like: “If you use AI well, it can sharpen your thinking.”

I’m not so sure about that now.

AI might sharpen your thinking. At the same time, it can become a device for generating a very sophisticated kind of self-satisfaction.

So what separates those two things?

I don’t know yet. But one thing I find interesting: I didn’t start with that question. It appeared somewhere in the back-and-forth — after the AI pushed back, I pushed back, the AI pushed back again — and by then I was holding a question I hadn’t arrived with.

At least today, I think that might be enough to call it thinking.

…though maybe even that is just self-satisfaction.

カテゴリー

• 【きのう、火星に行きました ♡ 】（ブログ)
• 【記事一覧】（ブログ)