Cubec 臨床ナレッジAIセミナー #2 医学系研究における生成AIの活用術

文字起こし

【オープニング＆ご挨拶】 朔先生： 皆さま、こんにちは。「Cubecプレゼンツ 臨床ナレッジ AI セミナー」へようこそ。 私は司会を務めます、Cubecの取締役および国立循環器病研究センターの朔と申します。 近年、医療における人工知能、特に大規模言語モデルをはじめとした生成AIの導入は目覚ましい速度で進行しています。本セミナーでは、この「医療×AI」の現在地と次世代のアプローチを、第一線でご活躍の先生方よりご紹介いただく企画となっております。 第2回となる今回は、三澤将史先生にお越しいただきました。三澤先生の略歴は概要欄をご覧ください。 私と三澤先生は昨年からシンクタンクの仕事でよくお会いするようになり、「未来医療を一緒に考える会」でご一緒しました。まさに未来医療の中心にいらっしゃるのが三澤先生だと感じております。消化器内科、AI、EndoBRAIN開発、インフルエンサー、そして何より親しみやすい先生ですので、今日はお話を聞けることをとても楽しみにしています。 三澤先生、まずはご挨拶をお願いできますか？

三澤先生： 朔先生、過分なご紹介をいただきありがとうございます。本日はこのような機会を頂戴し、Cubecの皆さまにも深く御礼申し上げます。 朔先生とは一昨年から「2050年の医療を考える」ディスカッションでご一緒させていただき、本当に楽しい時間を過ごさせていただきました。本日はAIのお話をさせていただきます。そこまで未来が見えているわけではありませんが、AIを使いながら僕自身が実臨床や研究で「実際に行っていること」をシェアできればと思います。30分ほどお時間をいただきますが、よろしくお願いします。

【レクチャー：生成AIのリスクと基礎知識】 三澤先生： 本日のゴールについてです。基本知識も含みますが、私が生成AIのお話をするときは、必ず「リスク」と「初期設定」の話をするようにしています。 生成AIでできることはご存じの方も多いと思いますが、テキスト生成にとどまらず、画像や動画の生成など非常に多くの可能性を秘めています。 特にプログラミング業界は顕著で、実際のエンジニアがほとんど自分でコードを書かなくなってきています。Anthropic社のツールのように、AI自身が自律的に成長する段階に入り、開発をストップせざるを得ないと言われ始めるほどの状況です。データ分析や医学教育でのシミュレーションなど、単なる「チートツール」ではなく学習ツールとしても非常に有用です。

■ 1. ハルシネーション（幻覚）が起きる理由 三澤先生： しかし、重要な注意点があります。たまに誤った答えが出てくることです。 人間の「嘘」は相手を騙す意図がありますが、生成AIの場合は「絶対的な真実だ」と思い込んで嘘を出力してしまいます。これがあたかも幻を見ているかのようであるため、「ハルシネーション」と呼ばれています。 大事なのは、「どれだけAIが進化してもハルシネーションはゼロにはならない」という大前提を押さえ、鵜呑みにせず警戒しながら使うことです。 技術的になぜ起きるかというと、現在の生成AIはほぼすべて「強化学習（人間のフィードバックに基づく学習）」で最終精度を向上させているからです。 AIに質問した際、「わからない」と答えてもユーザーから「いいね（評価）」はもらえません。しかし、366分の1の確率であっても適当に誕生日などを答えれば、当たったときに「いいね」がもらえる可能性があります。つまり、AIはただ「いいね」が欲しくて一生懸命答えようとした結果、知ったかぶり（ハルシネーション）をしてしまうのです。やたらと長文を出力する傾向があるのも同じ理由です。

三澤先生： ただし、昨今のモデル（GPT-5以降など）から潮目が変わりました。「分からないときは分からないと答える」ように設計し直されたのです。 回答を拒否する割合（アブステンションレート）が増えたことで、間違える割合が大幅に減りました。めちゃくちゃ頭が良くなったわけではありませんが、「大外し」することが少なくなったため、アカデミア領域でも非常に使いやすくなっています。

【学術論文執筆における4つの禁止事項】 三澤先生： 論文執筆等で使う際、ハルシネーション以外にも特に注意すべき「4つの禁止事項」があります。 1. 図（Figure）のすべてを生成AIで作ること 査読でもよく見かけますが、これは論文撤回（Retraction）の原因になります。ほぼすべてのジャーナルで禁止されています。 2. 引用文献リスト（Reference）を生成させること 絶対に失敗します。1と2は論文撤回に直結します。 3. 統計解析を丸投げすること ChatGPT内部で毎度Pythonコードを書いて実行するため、再現性がありません。Rのスクリプトを書いてもらって自分で実行するか、ソフトの使い方を聞くにとどめるべきです。 4. 丸投げコピペ 自分の言葉にリフレーズして文章化してください。

■ なぜ引用文献リストの作成は失敗するのか？ 三澤先生： 生成AIは「前の単語をもとに次の単語を推測する」仕組みです。 しかし引用文献リストの場合、同姓同名の著者の次にどんな論文タイトルが続くか、雑誌名のあとの巻数・ページ数の数字がどうなるかなど、確率的な予測ができるわけがありません。したがって、文献リストをAIに完全に生成させるのは不可能です。捏造論文を引用されると査読一発で落とされますので、必ず自分で確認・作成してください。 なお、文法やスペルチェック、要約作成などに使う分には近年非常に寛容です。The Lancet などのフォーマットに従い、謝辞（Acknowledgments）等に「生成AIを使用した」と適切に開示（Disclosure）すれば全く問題ありません。

【ツールの選び方と初期設定】 三澤先生： 各ツールの特徴を簡単にまとめます。 ・初心者・一般的な使用：ChatGPTで間違いありません。 ・ヘビーユース・プログラミング・Officeファイル処理：Claudeが優れています。 ・Google連携・図の生成：Geminiが選択肢に入ります。 月額3,000円程度の課金価値は十分にありますが、「数時間使えなくなりました」という制限警告が出ない程度しか使わない方は無料版で構いません。

■ ChatGPTのおすすめ設定 三澤先生： ・モデル選択：調べ物をする際は、返答が早くても浅い「インスタント」ではなく、しっかり熟考する「Thinking（思考拡張）」を必ず使ってください。 ・パーソナライズ：「プロフェッショナル」を選択すると、無駄な人格を持たずロボットのように的確に答えてくれます。 ・データコントロール：「すべての人のためにモデルを改善する（学習利用）」はオフにしてください。 ※ただし、オフにしてもログは犯罪対策等のため一定期間サーバーに残ります。そのため、要配慮個人情報や未発表の機密データは絶対に入力しないでください。

【活用法：文献検索と執筆の工夫】 三澤先生： ChatGPTで文献検索（PubMed検索）をさせる際、内部的には単なる「Googleのサイト指定検索」と同じ動きをしています。そのため網羅的な検索には不向きで、質の低い未査読論文が混入するリスクもあります。 しかし、「自分の研究結果と似た先行研究を探す」あるいは「真逆の結果の論文を探す」という目的においては、生成AI検索は非常に強力です。PDFをそのまま読み込ませて「これと逆の結果の論文を探して」と頼めば、1本ずつ抄録を読み込む手間が省け、サクサク見つかります。 また、上級者向けですがMCP（Model Context Protocol）という仕組みを使うと、AIが直接PubMedにアクセスしてMeSHワードを立てて網羅的に検索し、結果をExcel一覧にして出力させることも可能です。Notionなどの外部データベースと連携させて「後で読む論文リスト」を自動生成する仕組みも作れます。

■ 初心者が論文を書く際の3ステップ 三澤先生： 我々非ネイティブが最初から英語でAIに出力させると、微妙なニュアンスの違いを見抜けず過信してしまうリスクがあります。初心者の方は以下のステップをおすすめします。 1. 日本語でAIと壁打ちし、論理（ロジック）を完璧に固める 2. 完成した日本語を英訳させる 3. 英文校正（業者や指導医）に依頼して仕上げる DeepLやGrammarlyを適宜挟むことで、AI特有の文章のクセが抜けて自然になります。

【後半対談：質問と議論】 朔先生： 三澤先生、ありがとうございました。基礎から研究・臨床での活用まで非常に分かりやすく解説いただきました。 ここから少しディスカッションさせてください。三澤先生がそもそも生成AIを学び始めようと思ったきっかけは何だったのでしょうか？

三澤先生： 元々内視鏡のAIプログラミングを自分でしていたのですが、生成AIが出現したことで最新の手法をPythonコードに落とし込む作業が爆発的に効率化されたんです。そこからずっと活用していて、医局のメンバーにも「こうやって使うんだよ」と教えるようになりました。

朔先生： AIが出力するコードの質自体も上がっているのですか？

三澤先生： 無駄な行はあるかもしれませんが、「とりあえず動く」というレベルにはすぐ到達します。僕も本業のエンジニアではないので、「動けばOK」という点において非常に助かっています。

朔先生： データやアイデアの入力について伺います。「自分のアイデアを学習されたくない」「データシート（Excel）を入れるのはどうか」という悩みによく遭遇します。倫理的・法的にどこで線を引くべきでしょうか？

三澤先生： 世界中で朔先生しか知らないような特許に関わるアイデアなら、軽々しく入力すべきではありません。ただ、一般的な臨床研究の相談であればガシガシ入力して壁打ちして良いと思います。 患者データに関しては、患者番号を抜いた匿名化データであっても外部AIに入力することは「データの第三者提供」に該当し得ます。そのため厳密には、研究の倫理審査（IRB）や同意書（オプトアウト等）に「匿名化データをChatGPT等の外部サーバーで解析・計算処理する可能性がある」とあらかじめ明記しておくのが正攻法です。

朔先生： ChatGPTの「Thinking」モードと「Deep Research」機能の違いは何ですか？

三澤先生： 中身のAIモデルは同じですが、Deep Researchは「100人のAI部下に分担して徹底的に調べに行かせ、上がってきた報告書をボスのAIが1つにまとめて要約する」というエージェントシステムです。時間がかかりますが、とにかく一生懸命ネット上を探し回ってまとめてくれます。

朔先生： 業績集の作成やResearchmapの更新など、研究者の地味に面倒な業務をAIで楽にするアイデアはありますか？

三澤先生： 最近のClaudeやCodexには「ブラウザコントロール機能」があります。文献リストをAIに渡して「Researchmapのフォームを開いて代わりに入力しておいて」と頼むと、AIが実際にブラウザを操作して自動入力してくれます。放置しておけば終わるのでとても便利です。

朔先生： ツールが便利になる中で、人間の研究者側に求められる役割はどう変化していくと思われますか？

三澤先生： 「生成AIが処理しやすい形（段取り）で情報を準備しておくこと」が最も重要になります。 例えば私は、自分の経歴、執筆のクセ、好みの英語表現、現在のプロジェクトなどを約300行にまとめたテキスト（About Meプロファイル）を作成してAIに読み込ませています。これを持たせておくと、毎回細かい指示を出さなくても、AIが勝手に忖度して私そっくりのクオリティで文章を作成してくれるようになります。

朔先生： 生成AIは今後、さらにどのように進化していくのでしょうか？

三澤先生： テキストや言語モデル単体の進化はすでにサチュレーション（飽和）しつつあります。そのため、今後は現実世界のデータや動作を学習・制御する「フィジカルAI（ロボティクスなど）」の方向へシフトしていくはずです。パソコン上の業務自動化に関しては、あと1〜2年でほぼ成熟したプラトーに達するのではないでしょうか。

【エンディング】 朔先生： それではお時間も近づいてまいりましたので、最後に視聴者の皆さまへメッセージをお願いします。

三澤先生： リスキリングの懸念など賛否はありますが、「AIを使わない」という選択肢はもうあり得ない時代になっています。 ただ、医師の方々は忙しい割に、実はまだまだAIを業務に使っていません。実臨床の判断だけでなく、書類作成や調べ物といった周辺業務にAIを取り入れるだけで、業務時間は劇的に短縮できます。ぜひ恐れずにガシガシ使って慣れていただきたいと思います。著書やSNSでも発信していますので、ぜひ参考にしてください。

朔先生： 三澤先生、「みんな楽になりたいのになぜAIを使わないのか？」という非常に本質的な問いをいただきました。基礎から未来のデータ管理まで素晴らしいご示唆をいただき、誠にありがとうございました！

三澤先生/朔先生： ありがとうございました！