• はてなブックマーク
  • テクノロジー
  • 「誓って言うんですが、AIに要約させるのは本当に怖い現象」…情報の汚染が酷すぎて、結局原典を読むしかないみたいな世界 _(:3 」∠)_
  • Twitterでシェア
  • Facebookでシェア

「誓って言うんですが、AIに要約させるのは本当に怖い現象」…情報の汚染が酷すぎて、結局原典を読むしかないみたいな世界 _(:3 」∠)_

テクノロジー カテゴリーの変更を依頼 記事元:togetter.com
適切な情報に変更
278 usersがブックマーク コメント128

    記事へのコメント128件

    • 注目コメント
    • 新着コメント
    somaria3
    somaria3 大方の人間が要約するほうがよほど質が低い。原典にあたる必要はAI関係なく対象の重要度による。いまだに検索すりゃ分かる程度のことを雑にAIに投げてハルシネーション問題にする馬鹿につける薬はない💊

    2024/09/16 リンク

    その他
    nyaaaaaaaaaaaaa
    nyaaaaaaaaaaaaa 人がやってた、まとめサイトだって相当怪しかったからあまり変わらないよ。

    2024/09/16 リンク

    その他
    homarara
    homarara 雑なだけならともかく、完全なデタラメをさも本当の事かのように説明してくるのがなあ。

    2024/09/16 リンク

    その他
    mmaka2787
    mmaka2787 インターネット前から原典/一次情報に当たれは常識中の常識だろうに。。それが不要な程度に重要性の乏しい情報はAI要約で十分てだけ。

    2024/09/16 リンク

    その他
    mr_mayama
    mr_mayama どのモデルで何を投げたら、という話がないので無意味な論

    2024/09/16 リンク

    その他
    snowboard_fan
    snowboard_fan AIの要約がネット情報を元ネタにしたものだからね。「恋人の存在は調べたら見つかりませんでした」系サイトとやってることは一緒なんだよな。

    2024/09/16 リンク

    その他
    mayumayu_nimolove
    mayumayu_nimolove 昔こういう輩が、ネットが出た時メールを否定して訪問や電話しか認めないとかだった。時代は変わっても人間は全く成長しない。

    2024/09/16 リンク

    その他
    mujisoshina
    mujisoshina 問題なのは要約が不正確なことではなく、実態以上に正確だと思い込まれやすいことなのだろう。

    2024/09/16 リンク

    その他
    Yutorigen
    Yutorigen AIは無から情報を生み出しているのではなく人間の作った情報をベースにしてるだけなので、結局人間の作った情報が玉石混交というだけ。どれだけAIが発展しても情報の正しさを見抜くための知識は要る。

    2024/09/16 リンク

    その他
    tanglejar
    tanglejar 検証すれば間違いは分かる。知識が足りなくて検索方法がないものを、自然言語での対話形式で、知見を蓄積しながら調べられるのが革命的過ぎて、対処可能なハレーションなんて誤差だよ誤差。

    2024/09/16 リンク

    その他
    tg30yen
    tg30yen >AI検索がその辺を上手くやってくれるかと思ったら、AIのテキトーなごまかしを見抜く手間が増えただけでした

    2024/09/17 リンク

    その他
    ghostbass
    ghostbass ChatGPT4だといまだに嘘を返す事例がある。それもかなり簡単な部類の単語の説明において。生成AIは正しい答えは返さない。

    2024/09/17 リンク

    その他
    deep_one
    deep_one 「今投げた文章」を要約させたのか、「一般的な事象」を要約させたのか。後者はそりゃ無茶苦茶になる。

    2024/09/17 リンク

    その他
    pwatermark
    pwatermark お前らだって要約する時に自分の頭に入ってる知識だけでやるか？調べて裏取りするだろ？LLMにもそうさせればいいんだよ

    2024/09/17 リンク

    その他
    slack_pulse
    slack_pulse 今まで何を情報ソースにするかは個人や会社の出している情報だったけれど「あの人が書いたから信頼できる」というのが「あのモデルの出した答えだから信頼できる」形に変わるという話なのではないかな

    2024/09/17 リンク

    その他
    yamadar
    yamadar 『この画像の頃は「嘘見抜きスキルレベル5」くらいで大体OKだったのが、今はレベル30くらい無いと厳しくなってきている感じですね』まぁこれは確かに

    2024/09/17 リンク

    その他
    harumomo2006
    harumomo2006 仮に人間より質が悪いとしても複数回の要約を秒でこなせるんだから五賢者システムみたいなことをやればそれなりの質は確保できる。それで足りないなら賢い人に依頼するしかない

    2024/09/17 リンク

    その他
    daruyanagi
    daruyanagi 仕事で AI 使ってみようかなって思うことはあったんだけど、これが面倒で結局辞めた。でも、自分の知識ぶちこんだパーソナル AI にはまだ期待してる（主に検索と断片的に仕入れた知識のネットワーク化

    2024/09/17 リンク

    その他
    newforms
    newforms 自分の感想を誓うのも変だし、要約させたいなら与えた文章以外からの情報を吐かないように縛れば良さそうだし、全然しっくりこない

    2024/09/16 リンク

    その他
    nobiox
    nobiox この「誓って言うんですが」はどういう意味なの。「声を大にして言いたい」とか「これだけは確信持って言える」とか？

    2024/09/16 リンク

    その他
    yoshi-na
    yoshi-na 人だろうがAIだろうが原典の方が間違いないのは当たり前（そういうことではない）

    2024/09/16 リンク

    その他
    kei_0000
    kei_0000 AIが嫌いな方は、何か一つ気に入らないことや欠点を見つければ、即AIは全部ダメ、みたいな空気にしたがる。まあAI好きの方や金儲けの方はその逆だけど。何にしてもAI関連はじっくりその価値を見極める必要がある

    2024/09/16 リンク

    その他
    natu3kan
    natu3kan 信頼のある一次ソースまで調べる人が今も少数で、信頼してるメディアが一次ソースを見に行って伝えた結果を見ればいいってなるの人間の省エネの性質だよね。

    2024/09/16 リンク

    その他
    q-Anomaly
    q-Anomaly おお、人気ブコメがどれも見事に中身を読んでいないな。ハテノさんのコメントと比較したい。AIの話は主題ではなく、ネットの情報はゴミだらけだから書籍を読みましょうという話だった

    2024/09/16 リンク

    その他
    wuqgvnfrdt
    wuqgvnfrdt がっかりだな。正しさと自分の判断が大事なら最初から使わなければ良い。

    2024/09/16 リンク

    その他
    osakana110
    osakana110 今の所、AIは機械じゃなく盛大な思い違いをする人間からの回答くらいにとどめておくといいよ。

    2024/09/16 リンク

    その他
    Hidemonster
    Hidemonster 要約以外にも色々とやらせてみて(フレームワークから事例を作るとか)出来栄えに感動したのでこれからはもうなんとか使いこなすしかないと感じている

    2024/09/16 リンク

    その他
    wdnsdy
    wdnsdy ChatGPTのo1 previewを使ってみたが、だいぶ賢そうな返答をするようになっていた

    2024/09/16 リンク

    その他
    Goldenduck
    Goldenduck 無駄にスクロールしまくったり誤クリック誘導広告食らったりするいかがでしたかブログよりよほど使える／ただGoogleの検索結果に出てくる要約はマジで使えない。あれは一体何が起きてるんだ

    2024/09/16 リンク

    その他
    nori__3
    nori__3 要約見てから精読するだけ

    2024/09/16 リンク

    その他
    Gim
    Gim うーん、反対。例えば、転送メール→業務連絡メールを見て→WEBを見て→PDFを見て。より、転送メールに要約がある世界がありがたい。汚染されている場合は、転送する社員か原典を見た社員が対応すべき。

    2024/09/16 リンク

    その他
    R1na
    R1na チャットGPTなんかを使ってるからそう思うのでは？　クロードだとかまともなのを使わないと

    2024/09/16 リンク

    その他
    hotelsekininsya
    hotelsekininsya まだまだAIは始まったばかり。しかし、その進化速度は著しく、例えば最近のGoogle翻訳の精度はかなり良くなった。

    2024/09/16 リンク

    その他
    tobineko100
    tobineko100 情報商材屋構文（「炎上覚悟で言います」「これはガチなんですが」「何度も言いますが」「勘違いしている人が多いですが」「断言しますが」「ズバリ言います」等々）に拒否反応を起こして、頭に中身が入って来ない。

    2024/09/16 リンク

    その他
    tettekete37564
    tettekete37564 ChatGPT-4oになってからハルシネーションはかなり出なくなったがいつの話してるの？要約に関しては粒度や包含関係を表させる指示が難しいが。

    2024/09/16 リンク

    その他
    tigercaffe
    tigercaffe 未知の領域でchatGPT任せにするとAIが提示した情報が事実か確認がとれないんだわ。LORAが自分のPCで使えない理由を検証してもらったとき、結局グラボのパワー不足と判断するのに数日かかった。

    2024/09/16 リンク

    その他
    yaguchi_m
    yaguchi_m はてなブログのAIが記事の内容を解析してタイトルを自動的に生成する機能を使ったことがあるけど、国語の先生に叱られそうなタイトルの作り方だったので結局自分で考えた。

    2024/09/16 リンク

    その他
    eroyama
    eroyama 難しい増田の場合はまず要約がないと原典が顧みられないのでAi増田による要約はとても重要　/　調べたら見つからなかった、も立派な調べた結果で事実なのでかなり意味がある

    2024/09/16 リンク

    その他
    kagerou_ts
    kagerou_ts プログラムとかでも平気でそれっぽい嘘オプションを提示してくるから、「ええ～ほんとにござるかぁ～？」の精神で使ってる。なんか意地でも「その方法はありません」とは言わない感じが

    2024/09/16 リンク

    その他
    hardt
    hardt 「・・・って誰かが言ってた」の域を一生出ないと思う

    2024/09/16 リンク

    その他

    注目コメント算出アルゴリズムの一部にLINEヤフー株式会社の「建設的コメント順位付けモデルAPI」を使用しています

    アプリのスクリーンショット
    いまの話題をアプリでチェック！
    • バナー広告なし
    • ミュート機能あり
    • ダークモード搭載
    アプリをダウンロード

    関連記事

    「誓って言うんですが、AIに要約させるのは本当に怖い現象」…情報の汚染が酷すぎて、結局原典を読むしかないみたいな世界 _(:3 」∠)_

    同志カルロ・ゼン@〆切が苦手 @sonzaix 誓って言うんですが、AIに要約させるのは本当に怖い現象です_(:3...

    ブックマークしたユーザー

    • sc3wp06ga2024/10/18 sc3wp06ga
    • techtech05212024/10/17 techtech0521
    • rehash2024/09/26 rehash
    • tg30yen2024/09/17 tg30yen
    • ghostbass2024/09/17 ghostbass
    • deep_one2024/09/17 deep_one
    • pwatermark2024/09/17 pwatermark
    • slack_pulse2024/09/17 slack_pulse
    • yamadar2024/09/17 yamadar
    • harumomo20062024/09/17 harumomo2006
    • ryusuke19722024/09/17 ryusuke1972
    • daruyanagi2024/09/17 daruyanagi
    • underhill2024/09/17 underhill
    • yonigex2024/09/17 yonigex
    • masaph2024/09/16 masaph
    • hagakure4-b2024/09/16 hagakure4-b
    • akinonika2024/09/16 akinonika
    • newforms2024/09/16 newforms
    すべてのユーザーの
    詳細を表示します

    同じサイトの新着

    同じサイトの新着をもっと読む

    いま人気の記事

    いま人気の記事をもっと読む

    いま人気の記事 - テクノロジー

    いま人気の記事 - テクノロジーをもっと読む

    新着記事 - テクノロジー

    新着記事 - テクノロジーをもっと読む

    同時期にブックマークされた記事

    はてなブックマーク

    公式Twitter

    はてなのサービス

    • App Storeからダウンロード
    • Google Playで手に入れよう
    Copyright © 2005-2024 Hatena. All Rights Reserved.