ご近所の話題

[No.2648] ChatGPTは一般的答を繰り返すが、正しいとは限らない:Sadun博士

「真実は民主的ではない。しかし、私たちは今、インターネットによって活気づけられた人気の答えが、十分な資格を持つ権威者の深い思考よりも信頼される世界にいます。」2024 MAY 17, 2024のAAOの編集者の言葉でAlfredo A Sadun, MD, PHD博士はl: 「聞かれる言葉をそのまま信じてはいけない。」「You Can’t Always Believe What You Hear」という評論を書いています。0ffde687-7c3e-4daf-af0b-ed924a4f7639.webp

  • 魚の群れの謎: 著者は子供の頃、魚が群れで泳ぐ理由について疑問を持ちました。一般的な説明は「数の安全性」ですが、著者はこの理由に疑問を抱きます。
  • セミの例: 著者はセミが13年または17年ごとに出現する周期について考察し、これが捕食者に依存されない戦略であることに気が付きます。
  • ChatGPTの限界: ChatGPTは一般的な答えを繰り返すが、それが正しいとは限らない。著者は、ChatGPTが論理や推論を理解していないと指摘します。
  • 専門家の重要性: 著者は、専門家の意見を尊重し、一般的な知識やインターネット上の情報に惑わされないよう警告しています。真実は民主的ではなく、深い思考と専門的な検証が必要です。

◎少し詳しく引用すれば::チャットGPTに関する重要なポイント 1 つは、間違った答えはどこにでもあるということです。特に、専門家ではない人々から出された答えはそうです。科学者は、自分の仮定を疑うことに多くの時間を費やします。他のほとんどの人はそうしません。

従来の答えをすべて信じないでください。真実は民主的ではありません。しかし、私たちは今、インターネットによって活気づけられた人気の答えが、十分な資格を持つ権威者の深い思考よりも信頼される世界にいます。私が専門家であり、多くの論文を発表している分野でさえ、私を信じない患者に何度か遭遇しました。なぜ私の結論を拒否するのかと尋ねると、彼らは「自分で調査した」と答えました。つまり、ソーシャルメディアを調査したということです。

博士課程の長いトレーニングで、私には本当の研究とはどのようなものかがわかったことを願っています。そして、それは難しいことです。多くの参考文献を読み、比較し、疑わしい情報源からのものを捨て、確認バイアス、論理エラー、および一般調査からより一般的な人口への外挿の限界を理解する必要があります。 ChatGPT はそんなことをするのでしょうか? そうは思いません。ChatGPT は「確率的オウム」です

これはワシントン大学の Emily M. Bender が作った適切な用語で、ChatGPT はかなりランダムで、聞いた内容を (理解せずに) 繰り返すことを思い起こさせます。ChatGPT やその他の AI ツールは、ますます多くの情報を提供し、それを便利に手元に置いてくれますが、私たちはそれを重要性、深み、さらには真実でフィルタリングする能力を失いますChatGPT では、真実の小麦とナンセンスの籾殻を区別することはできません。そして、すでに自分で調査したので私の専門家の意見は必要ない、と冷静に私に説明した患者のように、ほとんどの人は真実の基準を下げるという怠惰な習慣に陥ります。彼らは、権威、専門知識、より深い思考を参照せずに、平凡な、さらには誤った知識を受け入れます。せいぜい、誰もが何でもできるが、何一つマスターしていない状態です。最悪の場合、私たちは皆、遊び場で最後に聞いた言葉を無意識に繰り返す幼稚園児のようになります

ソクラテスは(プラトンの報告によると)平等な民主社会では知識は「多数派の腐敗となり、人々は無知で愚かな決定を下す」と述べました。2000年以上経った今、ChatGPT は彼の言うことが正しいことを証明するかもしれません。

   ーーーーーーー

サドウン博士は1987年の私と同じころアルツハイマー病の視覚症状の研究をされていました。今の医科歯科大学の神経眼科外来主任の江本先生が留学した先での師匠でもあります。

◎ Assessment of visual impairment in patients with Alzheimer’s disease Alfredo A Sadun, Mark Borchert, Edward DeVita, David R Hinton, Carl J Bassi 1987/8/1、American journal of ophthalmology

◎ Ophthalmology  VOLUME 96, ISSUE 7P1077-1086, JULY 1989 Alzheimer’s Disease with Prominent Visual Symptoms Clinical and Metabolic Evaluation ほか

メルマガ登録
 

関連記事

コメント

この記事へのコメントはありません。