| 生成AI、実在しないグルメや観光地を紹介 福岡市の官民連携サイト …事の誤りを認めて謝罪した。「お詫び」では、インターネット上の情報を基に生成AIを活用して記事を作り、「人的確認」をしていたと釈明。今後は正確な情報収集… (出典:) |
| 人工知能 (AI acceleratorからのリダイレクト) 第3次人工知能ブームが続く中、2022年11月30日にOpenAIからリリースされた生成AIであるChatGPTが質問に対する柔軟な回答によって注目を集めたことで、企業間で生成AIの開発競争が始まるとともに、積極的に実務に応用されるようになった。この社会現象を第4次人工知能ブームと呼ぶ者も現れている。… 147キロバイト (18,978 語) - 2024年11月9日 (土) 11:20 |

今月開設され、福岡市も後援をしていた新観光サイトが、AI生成の記事で炎上。
紹介された名所やグルメが実在しないことが判明し、市民からは「信じられない」と驚きの声が。
AI活用が進む中、人的確認の不足が問題視されています。
観光情報の発信にとって正確さは命。
AIの利便性を活かしつつ、慎重な運営が求められる時代の到来を感じます。
人間の作業時間の軽減や、企画などを立てる際のアイディア出しのアシスタントなど、現状の生成AIはあくまで補助的に利用するのがよいのかもしれませんね。
いずれにしても、人の目での確認は絶対に必要!
福岡市が後援を取り消す事態に発展した今回の件は、多くの企業や自治体にとっても教訓となりそうです。
紹介された名所やグルメが実在しないことが判明し、市民からは「信じられない」と驚きの声が。
AI活用が進む中、人的確認の不足が問題視されています。
観光情報の発信にとって正確さは命。
AIの利便性を活かしつつ、慎重な運営が求められる時代の到来を感じます。
人間の作業時間の軽減や、企画などを立てる際のアイディア出しのアシスタントなど、現状の生成AIはあくまで補助的に利用するのがよいのかもしれませんね。
いずれにしても、人の目での確認は絶対に必要!
福岡市が後援を取り消す事態に発展した今回の件は、多くの企業や自治体にとっても教訓となりそうです。
1 蚤の市 ★ :2024/11/17(日) 07:16:47.37 ID:Y/WFwLOA9
福岡県の魅力を発信する目的で今月開設されたサイトに、実在しない観光名所やご当地グルメが紹介された。記事は生成人工知能(AI)で作成していたといい、サイトを運営していた東京のウェブ関連会社は、事実と異なる記事だったとして全記事を削除して謝罪。サイトを後援していた福岡市は事態を重く見て後援を取り消した。魅力を伝えるはずが、なぜ誤情報の発信となったのか。
問題となったのは「官民連携」のキャンペーンをうたうインターネットサイト「福岡つながり応援」。沖縄や宮城、山口各県の応援サイトを運営するウェブ関連会社が、11月1日から福岡県向けを新たにスタートさせ、県内の観光情報を掲載した。
ところが、閲覧者が保存した画像によると、福岡市の紹介記事では、アミューズメント施設として「うみなかハピネスワールド」という実在しない施設を紹介。また遊園地で「かしいかえん シルバニアガーデン」を取り上げたが、施設は2021年末に閉園している。
福岡県古賀市に関しても、「福津大自然公園」「鹿児島湾」や「恋の浦海岸」はいずれも市内にない。観光客の人気メニューとした「古賀刺身(さしみ)定食」も実在しない。
記事には注意事項として「本記事はインターネット上の情報をもとにAI生成しており、情報の正確性を保証するものではありません。情報が誤っている・変更されている場合もありますのでご注意ください」と付記。これに対し、SNS(ネット交流サービス)では、紹介する内容への違和感や批判が相次いだ。
こうした中、サイト運営側は開設から6日後の7日、「情報発信に関するお詫(わ)び」を発表し、記事の誤りを認めて謝罪した。「お詫び」では、インターネット上の情報を基に生成AIを活用して記事を作り、「人的確認」をしていたと釈明。今後は正確な情報収集や確認体制の強化をするとした。
事態を受け福岡市は14日付で後援を取り消した。市によると、後援申請時点で生成AIによる記事作成は知らされておらず、担当者は「内容の正確さやチェックは大前提だ」と話した。福岡県飯塚市も対応を検討中で、担当者は「困惑している。生成AIを使うとは把握していなかった」と述べた。両市ともキャンペーンへの支出や補助はない、いわゆる「名義後援」という。
また、後援に関わっていないが誤情報を掲載された古賀市の担当者は「誤った観光の情報はイメージダウンにつながりかねない」と困惑した。サイトを閲覧した一人でライターの大塚拓馬さん(37)=福岡県大野城市=は「不正確なサイトに行政が後援の形でお墨付きを与えていた。行政は責任を持って対応してほしい」と注文を付けた。
ウェブ関連会社の社長は14日、毎日 新聞の取材に応じ、「(システムを)紹介した人から『生成AIを活用して文章をスムーズに作れる』と聞いたので問題ないと認識していた。落ち度だった。大変ご迷惑をおかけした」と述べた。【長岡健太郎、平川昌範】
毎日新聞 2024/11/17 05:30
https://mainichi.jp/articles/20241116/k00/00m/040/248000c
問題となったのは「官民連携」のキャンペーンをうたうインターネットサイト「福岡つながり応援」。沖縄や宮城、山口各県の応援サイトを運営するウェブ関連会社が、11月1日から福岡県向けを新たにスタートさせ、県内の観光情報を掲載した。
ところが、閲覧者が保存した画像によると、福岡市の紹介記事では、アミューズメント施設として「うみなかハピネスワールド」という実在しない施設を紹介。また遊園地で「かしいかえん シルバニアガーデン」を取り上げたが、施設は2021年末に閉園している。
福岡県古賀市に関しても、「福津大自然公園」「鹿児島湾」や「恋の浦海岸」はいずれも市内にない。観光客の人気メニューとした「古賀刺身(さしみ)定食」も実在しない。
記事には注意事項として「本記事はインターネット上の情報をもとにAI生成しており、情報の正確性を保証するものではありません。情報が誤っている・変更されている場合もありますのでご注意ください」と付記。これに対し、SNS(ネット交流サービス)では、紹介する内容への違和感や批判が相次いだ。
こうした中、サイト運営側は開設から6日後の7日、「情報発信に関するお詫(わ)び」を発表し、記事の誤りを認めて謝罪した。「お詫び」では、インターネット上の情報を基に生成AIを活用して記事を作り、「人的確認」をしていたと釈明。今後は正確な情報収集や確認体制の強化をするとした。
事態を受け福岡市は14日付で後援を取り消した。市によると、後援申請時点で生成AIによる記事作成は知らされておらず、担当者は「内容の正確さやチェックは大前提だ」と話した。福岡県飯塚市も対応を検討中で、担当者は「困惑している。生成AIを使うとは把握していなかった」と述べた。両市ともキャンペーンへの支出や補助はない、いわゆる「名義後援」という。
また、後援に関わっていないが誤情報を掲載された古賀市の担当者は「誤った観光の情報はイメージダウンにつながりかねない」と困惑した。サイトを閲覧した一人でライターの大塚拓馬さん(37)=福岡県大野城市=は「不正確なサイトに行政が後援の形でお墨付きを与えていた。行政は責任を持って対応してほしい」と注文を付けた。
ウェブ関連会社の社長は14日、毎日 新聞の取材に応じ、「(システムを)紹介した人から『生成AIを活用して文章をスムーズに作れる』と聞いたので問題ないと認識していた。落ち度だった。大変ご迷惑をおかけした」と述べた。【長岡健太郎、平川昌範】
毎日新聞 2024/11/17 05:30
https://mainichi.jp/articles/20241116/k00/00m/040/248000c
16 名無しどんぶらこ :2024/11/17(日) 07:25:41.95 ID:DDsyNVUx0
>>1
何でAIで手抜きするんやw
ちゃんと検証すればそのまま掲載されんだろw
税金返せやw
何でAIで手抜きするんやw
ちゃんと検証すればそのまま掲載されんだろw
税金返せやw
97 名無しどんぶらこ :2024/11/17(日) 07:56:39.33 ID:bmqJoTjs0
>>1
実在しない食い物や観光地とか逆に見てみたいわ
実在しない食い物や観光地とか逆に見てみたいわ
4 名無しどんぶらこ :2024/11/17(日) 07:19:23.80 ID:JVUDJDih0
言い訳書いたら許されるって性質のものじゃないでしょ
バカなの?
バカなの?
6 名無しどんぶらこ :2024/11/17(日) 07:19:33.21 ID:hQvHrbEs0
AIの暴走が始まったな
人類が支配される日も近い
人類が支配される日も近い
7 名無しどんぶらこ :2024/11/17(日) 07:19:46.16 ID:MY8qF92v0
手抜きすぎだろ日本人
9 名無しどんぶらこ :2024/11/17(日) 07:20:32.13 ID:rKu9Flb20
生成AIを自分では使ったことなかったんだろうな業者は…
12 名無しどんぶらこ :2024/11/17(日) 07:21:04.01 ID:SIV8u/Nv0
AI「生成しときました」
13 名無しどんぶらこ :2024/11/17(日) 07:21:43.76 ID:ymVWJTeB0
AIもまだまだだな
人間が最終チェックしないと
人間が最終チェックしないと
15 名無しどんぶらこ :2024/11/17(日) 07:24:03.90 ID:1SnT7aXr0
AIって自分で学習して発達していくもんなんでしょ?
登場して何年も経ってるのになんで今でもバカなの?
登場して何年も経ってるのになんで今でもバカなの?
21 名無しどんぶらこ :2024/11/17(日) 07:27:12.56 ID:6wzZfFH20
>>15
使い手がバカだから。
上手く使えてるところは問題になってない。
使い手がバカだから。
上手く使えてるところは問題になってない。
32 名無しどんぶらこ :2024/11/17(日) 07:30:43.65 ID:E6mjn2xq0
>>15
知らないことを「知らない」と言えない
ウソをつくのが悪いことだと知らない
知らないことを「知らない」と言えない
ウソをつくのが悪いことだと知らない
49 名無しどんぶらこ :2024/11/17(日) 07:38:09.00 ID:ji4U9roC0
>>32
それ
単なる知ったかぶりと大差ない
それ
単なる知ったかぶりと大差ない
52 名無しどんぶらこ :2024/11/17(日) 07:38:37.18 ID:jsxjAhY+0
>>32
モルゲッソヨはある意味偉大
モルゲッソヨはある意味偉大
60 名無しどんぶらこ :2024/11/17(日) 07:41:43.44 ID:2g7eiRoN0
>>15
クリフト「せやな」
クリフト「せやな」
73 名無しどんぶらこ :2024/11/17(日) 07:48:21.84 ID:97tG23hq0
>>60
クリフトがザラキ連発するのはモンスターに対する学習不足
同じモンスターに撃ち続けるとザラキを撃たなくなる
なおデスピサロは形態ごとに違うモンスター扱いになるため連発する模様
クリフトがザラキ連発するのはモンスターに対する学習不足
同じモンスターに撃ち続けるとザラキを撃たなくなる
なおデスピサロは形態ごとに違うモンスター扱いになるため連発する模様
94 名無しどんぶらこ :2024/11/17(日) 07:55:42.68 ID:mNVsUo330
>>73
ザラキを打った後、他のキャラがそいつを倒すとザラキで倒したとフラグが立ったとか
当時のインタビューで賢く作ると面白くないからわざとバカに作った、とあったけどあれが当時のスクエアの限界だったと思ってる
ザラキを打った後、他のキャラがそいつを倒すとザラキで倒したとフラグが立ったとか
当時のインタビューで賢く作ると面白くないからわざとバカに作った、とあったけどあれが当時のスクエアの限界だったと思ってる
17 名無しどんぶらこ :2024/11/17(日) 07:25:47.88 ID:ZZwPt8TC0
ウソはウソであると見破れる人でないとAIを使うのは難しい
18 名無しどんぶらこ :2024/11/17(日) 07:26:11.69 ID:6wzZfFH20
スマートフォンもAIもそれらが賢いのであって、使い手が賢くなる訳ではないってのが理解できてない。
22 名無しどんぶらこ :2024/11/17(日) 07:28:06.86 ID:X1x7P6QA0
これどういうお笑い?
24 名無しどんぶらこ :2024/11/17(日) 07:28:26.97 ID:PrSRif650
なんでもかんでもAIてw
せめて紹介する側は実在するのか確認しろよ
紹介サイトだろ?ちょっとこれはないわ
せめて紹介する側は実在するのか確認しろよ
紹介サイトだろ?ちょっとこれはないわ
26 名無しどんぶらこ :2024/11/17(日) 07:29:16.03 ID:wXbSRQ8R0
存在しないグルメ作れるとか、想像力豊かだな
案外エンタメに活用できるんじゃないか
案外エンタメに活用できるんじゃないか
27 名無しどんぶらこ :2024/11/17(日) 07:29:19.66 ID:1kQOHZyx0
プロンプトのど素人がやったのかな
ハルシネーション起こさせない方法は基本だろ
ハルシネーション起こさせない方法は基本だろ
29 名無しどんぶらこ :2024/11/17(日) 07:30:03.28 ID:ebDCXWeg0
『生成AIを活用して文章をスムーズに作れる』
AIは利用すると便利だが内容は確認するだろ普通
AIは利用すると便利だが内容は確認するだろ普通
40 名無しどんぶらこ :2024/11/17(日) 07:33:27.89 ID:9iLWH8Sv0
>>29
前にあった飲食店紹介するAIのやつで、全く同じ案件なかったかね。
実在しない店や料理が紹介されるやつ。
前にあった飲食店紹介するAIのやつで、全く同じ案件なかったかね。
実在しない店や料理が紹介されるやつ。
35 名無しどんぶらこ :2024/11/17(日) 07:31:56.38 ID:/t7DDUpU0
chatGPTは2021年までの情報しかないからな
88 名無しどんぶらこ :2024/11/17(日) 07:53:32.07 ID:uYeMy5fh0
>>35
君の情報も古いみたいだな
君の情報も古いみたいだな
36 名無しどんぶらこ :2024/11/17(日) 07:32:11.29 ID:OAMyVDGj0
ずんだもんのAIにずんだもんランドって何?って聞いたらすごく細かく説明してくれたな
37 名無しどんぶらこ :2024/11/17(日) 07:32:13.74 ID:cYguhAIV0
捏造AI
38 名無しどんぶらこ :2024/11/17(日) 07:32:15.89 ID:ug5tpgQs0
aiはスクリプト生成やバグ修正に1番向いてるよ
41 名無しどんぶらこ :2024/11/17(日) 07:34:02.35 ID:d3/UJkLj0
バカとハサミとAI
44 名無しどんぶらこ :2024/11/17(日) 07:35:42.63 ID:2mcE0L840
これ沖縄宮城山口は大丈夫なの?
47 名無しどんぶらこ :2024/11/17(日) 07:37:40.05 ID:k1sK8wjL0
普通の記事でも校正てするもんやないのかネット記事だと書いた記者以外は中身確認せんもんなのか
54 名無しどんぶらこ :2024/11/17(日) 07:38:41.38 ID:b9WwBR7z0
行政もきちんとチェックしとけよ。
公務員もテメーの仕事すらきちんとやらない、サボリ野郎だらけなんだろ。
公務員もテメーの仕事すらきちんとやらない、サボリ野郎だらけなんだろ。
56 名無しどんぶらこ :2024/11/17(日) 07:40:45.55 ID:ji4U9roC0
>>54
AIにチェックさせる
AIにチェックさせる
59 名無しどんぶらこ :2024/11/17(日) 07:41:18.97 ID:NFEXQBGy0
使う側にも最低限の知能が求められる
63 名無しどんぶらこ :2024/11/17(日) 07:44:51.45 ID:h2+nzGKt0
ヨシ!
ヨシ!
ヨシ!
ヨシ!
ヨシ!
64 名無しどんぶらこ :2024/11/17(日) 07:45:38.13 ID:4YkrFS6r0
こういう事例を見てると結局使う側次第なんだなって事がようわかる、ググッても欲しい情報に辿り着けないって騒いでるのも実は検索が下手くそなだけ説かもな
66 名無しどんぶらこ :2024/11/17(日) 07:45:51.40 ID:HE2sHsRA0
生成AIはまだ風景なら見れるが人物の独特な感じが気持ち悪くて仕方ない
90 名無しどんぶらこ :2024/11/17(日) 07:53:58.33 ID:9iLWH8Sv0
>>66
物によるんだろうが、なんか話してる姿ので歯が増減してるねあったな。
さざ波みたいに歯が揺れて増減しながら会話してる有名人のやつ。
物によるんだろうが、なんか話してる姿ので歯が増減してるねあったな。
さざ波みたいに歯が揺れて増減しながら会話してる有名人のやつ。
68 警備員[Lv.31] :2024/11/17(日) 07:46:18.58 ID:p1PQ8NV70
chatGPT普及してすぐ旅行の計画を立てさせたら実在しない地名や観光地だらけの計画的立ててきたわ
ていうか、気付くだろwwwww
chatGPTに作らせて、いちいちその項目確認しないとか信じられない
恐ろしいほどのバカだな
ていうか、気付くだろwwwww
chatGPTに作らせて、いちいちその項目確認しないとか信じられない
恐ろしいほどのバカだな
72 名無しどんぶらこ :2024/11/17(日) 07:48:11.59 ID:L669hBle0
>>68
まあ下の方に情報は正しくないから気をつけろと書いてあるからな。
まあ下の方に情報は正しくないから気をつけろと書いてあるからな。
76 名無しどんぶらこ :2024/11/17(日) 07:49:43.87 ID:ji4U9roC0
>>72
とんでもねぇ情報サイトだなぁこれぇ!
とんでもねぇ情報サイトだなぁこれぇ!
78 名無しどんぶらこ :2024/11/17(日) 07:50:28.80 ID:L669hBle0
>>76
ChatGPTのことだぞ。
ChatGPTのことだぞ。
85 名無しどんぶらこ :2024/11/17(日) 07:52:34.54 ID:ji4U9roC0
>>78
とんでもねぇChatGPTだなぁこれぇ!
とんでもねぇChatGPTだなぁこれぇ!
80 警備員[Lv.31] :2024/11/17(日) 07:50:57.73 ID:p1PQ8NV70
>>72
出てきた地名をググるだけですぐわかること
AIが書いたから間違えてるかもなんて、言い訳にもならないレベル
出てきた地名をググるだけですぐわかること
AIが書いたから間違えてるかもなんて、言い訳にもならないレベル
69 名無しどんぶらこ :2024/11/17(日) 07:46:59.90 ID:/Qcekhbt0
ハルシネーション
| ウィクショナリーに関連の辞書項目があります。 hallucination、hallucinate ハルシネーション(hallucination・名詞)、ハルシネイト(hallucinate・動詞) 存在しないものを知覚する。幻覚を見る。幻聴を聴く。などを意味する英単語。主に薬物や病気などに起因する。… 4キロバイト (427 語) - 2024年5月22日 (水) 13:22 |
71 名無しどんぶらこ :2024/11/17(日) 07:47:28.06 ID:UpUyMlV90
今後のネットは捏造が溢れる中で非AIかどうか見抜く力が問われるな
AIでAIチェッカーみたいの作ればどうか
AIでAIチェッカーみたいの作ればどうか
74 名無しどんぶらこ :2024/11/17(日) 07:49:37.52 ID:E6mjn2xq0
>>71
生成AIと見抜ける人でないと(インターネットを使うのは)難しい
の時代になるとはな
生成AIと見抜ける人でないと(インターネットを使うのは)難しい
の時代になるとはな
77 名無しどんぶらこ :2024/11/17(日) 07:49:44.29 ID:bJK2qU1h0
業者側も行政側もチェックしないのか
ゲームのように一般人がデバッグする時代
ゲームのように一般人がデバッグする時代
95 名無しどんぶらこ :2024/11/17(日) 07:56:07.64 ID:gwXdySAk0
>>77
民間のプロジェクトに後援の名義貸しただけだからなあ
まあ仮に役所のプロジェクトだったとしてもチェック甘々になる気はするが
民間のプロジェクトに後援の名義貸しただけだからなあ
まあ仮に役所のプロジェクトだったとしてもチェック甘々になる気はするが
82 名無しどんぶらこ :2024/11/17(日) 07:51:22.58 ID:mNVsUo330
東京もんは福岡の事なんか知らんからAIが嘘吐いても気が付かないんだろう
92 名無しどんぶらこ :2024/11/17(日) 07:55:00.46 ID:4bcDllSh0
>>82
わざわざ、自分達23区民の財布同然の地方交付税が適正に使われてるとは思ってないし、地方に行くこと無いからね。
わざわざ、自分達23区民の財布同然の地方交付税が適正に使われてるとは思ってないし、地方に行くこと無いからね。
98 警備員[Lv.31] :2024/11/17(日) 07:56:49.97 ID:p1PQ8NV70
>>82
いや実際自分がまさに福岡行く時同じことやったんだけど、すぐに気づいたよ
これ気付かないのすごすぎる
いや実際自分がまさに福岡行く時同じことやったんだけど、すぐに気づいたよ
これ気付かないのすごすぎる
83 名無しどんぶらこ :2024/11/17(日) 07:51:52.26 ID:bcf99VF00
だから生成AIを最終納品物にするのはやめておけと…
人間がチェックするにしても嘘を全部見つけるのは難しいでしょ
あくまでも補助としてしか使えないよ
人間がチェックするにしても嘘を全部見つけるのは難しいでしょ
あくまでも補助としてしか使えないよ
86 名無しどんぶらこ :2024/11/17(日) 07:53:11.44 ID:L669hBle0
>>83
生成AIで作成したものをそのまま納品するなんて詐欺師レベルだなw
生成AIで作成したものをそのまま納品するなんて詐欺師レベルだなw
91 名無しどんぶらこ :2024/11/17(日) 07:54:58.23 ID:jsxjAhY+0
ジジイ:とりあえず周りの人間から聞いたことを信用する
若者:とりあえず生成AIに聞いたことを信用する
たいしてかわんねーな
若者:とりあえず生成AIに聞いたことを信用する
たいしてかわんねーな
96 名無しどんぶらこ :2024/11/17(日) 07:56:15.94 ID:m+EKM2jN0
AIが良さそうと薦めてくれたのだから、作ればいいのに
「うみなかハピネスワールド」
「福津大自然公園」
「古賀刺身(さしみ)定食」
「うみなかハピネスワールド」
「福津大自然公園」
「古賀刺身(さしみ)定食」

コメントする