※英文で記載した記事をChatGPTを用いて日本語訳したのち、修正を加えています。
今回の記事は研究者が LLM（大規模言語モデル）を過度に依存することなく、執筆や思考にどのように活用できるか を考えるシリーズとして書き始めています。
私は臨床医であり、現在PhDの学生でもあります。このブログでは、LLMを情報収集に活用する方法を紹介することが多いのですが、実際研究論文を書く際にもLLMを利用しています。LLMは非常に便利ですが、使い方によっては過度に依存してしまう危険や問題点も多くあります。
私はAIの専門家ではありませんが、可能な範囲でのLLMのメカニズムは理解したうえで、実際に研究を行うユーザーの立場からLLMの使用について考えていきたいと思います。本シリーズでは、自分自身の試行錯誤の経験に加え、専門家からの発信情報も参考にしながら整理していきます。
まず今回の記事では、論文のアイディア出し～執筆のプロセスの中で LLMをどのように位置づけるべきか について扱います。
LLMを論文に使用することの問題点
現在、多くの研究者が研究のさまざまな場面でLLMを利用しています。たとえば、論文原稿の下書き作成、学術的な文体への調整、先行研究の要約、執筆中のアイデア整理などです。私が研究者向けにAIツールの紹介を始めた2024年頃には、すでにこういった使い方はかなりありふれたものになってきていました。実際、この時期に登場した以下の様な多くのAI研究支援ツールは、現在はこれらの機能を すでに中核機能として組み込んでいます。
このようなLLMの活用方法は、私のような 英語を母語としない研究者にとっても特に価値があります。英語で学術論文を書くことは、国際誌に投稿する際の大きな障壁となることがあります。LLMの登場によって、この障壁はかなり低くなりました。
一方で、LLMの利用については依然として多くの議論があります。その理由は主に二つあります。
一つは 社会的な観点 です。LLMの普及は、長期的に見て科学界全体にとって本当に利益となるのでしょうか。研究論文の数はすでに爆発的に増えていますが、LLMによるペーパーミルが増えれば、この状況がさらに悪化する可能性があります。というか実際レビュアーの査読論文の増加を考えると既に悪化していると思います。
もう一つは 個人の研究活動の観点 です。LLMは、本来研究者の思考を鍛える重要な活動、すなわち エビデンスを統合し、論理的な議論を構築する作業 を代替してしまう可能性があります。過度に依存すると、こうした独創的な思考能力が低下してしまうかもしれません。それは研究に欠かせない革新的なアイデアを生み出すうえで大きな問題です。
さらに、効率化のための新しいツールやプロンプトの情報が毎週のように登場しています。正直に言えば、「学術執筆に必須の10個のプロンプト」や「研究者が使うべきAIツールトップ10」といった記事を見たり書いたりするのには少し疲れました。こうした流れをすべてキャッチアップするのは本質的に重要ではなく、重要なのは LLMが自分の思考と執筆の中でどのような役割を果たすのかをきちんと見定める という点です。本シリーズでは、まさにその点を考えていきます。
実際にLLMを使って論文を書こうとすると、LLMをどう使えばよいのか、こうした葛藤を強く感じます。そんな日々の研究活動の中でLLMがどのように位置づけられるのかについて、自分の経験を整理して共有する必要性を感じました。
そこでまずは、LLMを科学論文執筆にどのように使うべきか、そしてどのように使うべきではないか を考えていきます。
なぜLLMが論文を代わりに書くのは難しいのか
LLMは非常に有用なツールです。疲れ知らずで人間よりも知識の面で幅広く、そして文の作成も速いです。しかしながら論文を書くというような業務には正直十分適していないと思います。
LLMは結局のところ 入力と出力のインターフェースにすぎません。その出力は、与えられる入力に大きく依存します。
この入力に関する特徴は context engineering と呼ばれますが、単なるプロンプトだけではなく、メモリ、ユーザーの設定、外部知識を取得する仕組み（RAG）なども含まれます。
この考え方は現在より大きく広がってきています。実際、ChatGPT、Claude、Geminiなどの主要なLLMは、ユーザーごとのメモリやコンテキストを保持するようになっています。
しかし、このような追加情報を与えても、LLMが研究論文として 完全に望ましい文章を生成することは依然として難しい のが現状です。
私たちが論文を書くとき、最終的に必要になる情報を最初からすべて理解していることはほとんどありません。研究論文は通常、先行研究に基づき、実験結果などの証拠によって支えられた新しい主張を提示します。論文とは知識のネットワークの中から一つの経路を選び、それをストーリーとして提示するものです。
この議論を構築するためには、次の作業が必要になります。
- 先行研究あるいは自分の実験結果から事実を選ぶ
- それらの関係を構築する（解釈する）
- 中心的な主張を支えるストーリーを選ぶ
ここで重要なのは、このプロセスが一方通行ではないということです。
文章を書いている途中で論理の問題に気づき、最初から書き直すこともあります。概念の関係性や論理の流れを作る中で情報不足に気づき、データや文献に戻って新しいエビデンスを追加することもあります。
このような反復的なプロセスでは、常に現在のコンテキストの外にある情報 が関わってきます。
コンテキストに依存するLLMではそれだけで論文を書くことは不可能です。
LLMの誤った使いすぎは思考力を弱めうる
「Writing is thinking」は、2025年のNatureの記事のタイトルとして使われました。
私はこの考え方に賛成です。LLMを使いすぎると、書いている最中に本来得られる思考プロセスの経験と能力が徐々に弱まる可能性があります。
研究者にとって重要な知的作業は、先ほど述べたように知識の断片をつなぎ合わせて新しい議論を作ることです。ときには、最初は無関係に見えるアイデアを結びつける概念的な飛躍が必要になることもあります。
こうした結びつきは、さまざまな場所から生まれます。学会で見たこと、同僚との会話、あるいは日常生活の中で突然ひらめくこともあります（ニュートンのリンゴの話のように、多少脚色された逸話であったとしても）。
このような暗黙知は、LLMが扱うことが難しい領域です。LLMは主に言葉や文章の統計的関係に基づいて生成します。そのため、頻度の低い組み合わせや、まだ着目されていないような関係性は見逃される可能性があります。
もう一つの問題なのは、LLMに過度に依存すると、研究者自身が受動的になってしまうことです。自分で議論を考えずにLLMに頼り続けると、研究に必要な深い理解を徐々に失う可能性があります。例えばプレゼンテーションや共同研究での他の研究者との議論といった際には自分の中にある研究に対しての知識や理解が当然重要です。こういった内在的な知識を使った機会においては大きく影響が出ます。
完全に指示通りに動くけれど、自分でその意味を考えない従順な部下を想像してみてください。言われた仕事をこなすことはできますが、なぜその作業をしているのかを説明したり、新しいアイデアを生み出したりすることはできません。LLMに従順な部下に自分からなろうとするのはあまりにも無意味な事であるように思います。LLMに過度に依存すると、同じ状況が起こり得ます。
LLMをどのように使うべきか
というわけで、上記の理由から、私はLLMを以下の二つの役割に限定して使うようにしています。
1. アイデアを拡張するために使う
若干上述の例と矛盾するようですが、これは自分が出したアイディアからさらに拡張するときに使用します。ブレインストーミングのようなアイディア出しをLLMにやらせると独創的ではないにしても自分が気づかなかったアイディアを新規に出してくれることは非常によくあります。
実際の文章作成においては文章や段落の仮のバージョンを書いたあと、その主張を補強する別の表現や、文体・トーンの提案をLLMに求めることがあります。
もし有用だと思える提案があれば、必ず自分の言葉で書き直したうえで採用します。目的は出力をコピーすることではなく、自分の文章を改善するための刺激として使うことです。
2. 外部の視点を得る
もう一つの有用な役割は、LLMに特定の読者の立場を演じてもらうことです。例えば次のような役割です。
- ジャーナルの編集者
- 査読者
- 同じ分野の研究者
- 別分野の研究者
こうした視点から原稿をレビューしてもらうことで、ストーリーが理解しやすいか、論理が明確かを確認できます。説明や論理が不十分だと感じた場合は、それに応じて原稿を修正します。もちろん実際の読者に意見を聞くことは有用ですが、まずその前にLLMを使うだけでも自分が気づいていなかった見落としを指摘されることは多々あります。
何でもそうだと思いますが、道具を使う際には、本来の目的を忘れずに意識することが非常に重要です。LLMは現在も非常に速い速度で発展しています。最近は進化の速度が少し落ちたように見えるかもしれませんが、それでも状況は常に変化しています。
毎週登場する新しいツールやアップデートに振り回されたくないのであれば、個別のツールではなく、目的に準じた基本原則に注目することが重要です。論文執筆における目的はただ原稿を埋めることではなく、自分の主張とその根拠となるエビデンスのネットワークを構築し、科学の発展に貢献することです。漫然と使うだけではこの目的は満たせません。
これらの原則に基づくとできることは少ないように見えますが、実際できることはたくさんあります。今後の記事では、ここで述べた原則に基づいて LLMをどのように活用できるか をさらに詳しく考えていきます。
コメント