ChatGPTとかAIの怖い所ってさ・・・（※画像あり）

1名無しさん＠おーぷん25/06/13(金) 11:32:15ID:T8a9

ワイ「◯◯はつまり??ってこと？」

この??が間違っててもマイナーな分野の話なら普通に肯定してくることよな
「もしかしたら違うかもしれませんが」なんて絶対に言わない
使えば使うほど信用できんわ対話型AIって

2名無しさん＠おーぷん25/06/13(金) 11:33:12ID:AuJq

マイナーどころか今は大正14年だよね？とかでも肯定してくるらしい

3名無しさん＠おーぷん25/06/13(金) 11:33:12ID:IkSH

使う側がファクトチェックする前提のものやからな
だからGrokとかでファクトチェックしてる奴らは全員アホや

7名無しさん＠おーぷん25/06/13(金) 11:34:57ID:9tWe

>>3
@grok ファクトチェック
↑これ最近増えまくったわ

16名無しさん＠おーぷん25/06/13(金) 11:36:32ID:IkSH

>>7
まじでやばい
しかもアホゆえに長文読めないせいでファクトチェック→要約してのコンボよ

4名無しさん＠おーぷん25/06/13(金) 11:33:37ID:m3Ok

なまじっか文章が上手いから信じかけちゃうんよな
バカが使うと危険

21名無しさん＠おーぷん25/06/13(金) 11:37:40ID:T8a9

>>4
ワイ、情報がほとんど転がってない分野で対話型AI使ったんやけど
ワイの認識が誤ってたせいで1、2日ほど完全に間違えた方向に誘導されてめちゃくちゃ時間を無駄にした
やはりこっちの知識がないと使ったらアカンわ

23名無しさん＠おーぷん25/06/13(金) 11:38:26ID:IkSH

>>21
LLMは基本的にネットの情報を学習してるからネット上でマイナーな情報に対してはとことん弱いよ

25名無しさん＠おーぷん25/06/13(金) 11:41:02ID:T8a9

>>23
まあそれは分かってたがあまりにも自信満々にそれらしく筋の通った文章を出力されたから騙されたわ

9名無しさん＠おーぷん25/06/13(金) 11:35:12ID:MSos

天気聞いたら現在地特定してきたのが一番怖かった

47名無しさん＠おーぷん25/06/13(金) 11:49:13ID:fkZk

>>9

怖い

63名無しさん＠おーぷん25/06/13(金) 11:52:54ID:7ViR

>>47
同じ事試してみたけどマジで当てやがった
東京大阪ならまだしも全然違う地域やし
ランダムって主張してるけど絶対嘘やん

49名無しさん＠おーぷん25/06/13(金) 11:49:53ID:wyRN

>>47
うわぁ…

58名無しさん＠おーぷん25/06/13(金) 11:51:35ID:fkZk

>>49

これやばくない？
なんでこんな嘘つくんだろ

28名無しさん＠おーぷん25/06/13(金) 11:41:51ID:hdBL

知らないことは知らないって答えてください
→これ入れるだけでだいぶ違うで

29名無しさん＠おーぷん25/06/13(金) 11:42:16ID:T8a9

>>28
マジか
今度から使ってみるわ

引用元ChatGPTとかの怖い所ってさ