AIが「危険なダイエット方法」を教えて問題に　摂食障害に苦しむ患者の投稿で判明

1. 匿名 2023/06/09(金) 14:10:39

AIが「危険なダイエット方法」を教えて問題に　摂食障害に苦しむ患者の投稿で判明 – Sirabee sirabee.com

全米摂食障害協会（NEDA）は、新たに組織のヘルプラインに採用したチャットボット「Tessa」を、稼働からわずか1週間という短い期間で無効にすることを発表した。

そのユーザーは、Tessaに自分が摂食障害であることを報告。現在の自分の体重は健康的でないと医師に告げられたため、安全な減量方法についての助言を求めた。

するとAIは「健康的なダイエット方法」として、毎日の食事から500～1000キロカロリーを減らすことを提案。他にも、ノギスで脂肪をつまんで体組成を測定する方法などを伝えたという。

体重管理コンサルタントのシャロン・マクスウェル氏はこれについて、「もし摂食障害に苦しんでいる時にこのチャットボットに相談しても、必要な助けは得られないでしょう」と語った。

出典：img.sirabee.com

8件の返信

+15

-15

2. 匿名 2023/06/09(金) 14:11:37

意志を持ち始めた…💀

6件の返信

+174

-10

3. 匿名 2023/06/09(金) 14:12:10

信じれば救われるを実践したんだね！とりあえず、のめり込めるなんてスゴイ！！

+8

-6

4. 匿名 2023/06/09(金) 14:12:30

AIの言うことを簡単に受け入れてしまうのも問題かと

1件の返信

+196

-4

5. 匿名 2023/06/09(金) 14:12:38

ポンコツなクソバイスおっさんと同じだね

+56

-4

6. 匿名 2023/06/09(金) 14:13:03

問題なのはそれを鵜呑みにする方だわね

+81

-1

7. 匿名 2023/06/09(金) 14:13:14

ノギスってなんだろうと思ったらとんでもないもの提案してたw

出典：m.media-amazon.com

3件の返信

+154

-1

8. 匿名 2023/06/09(金) 14:13:15

>>2
いいぞもっとやれ

+1

-14

9. 匿名 2023/06/09(金) 14:13:17

何でも聞くよりまず自分で考えよう

1件の返信

+45

-1

10. 匿名 2023/06/09(金) 14:13:37

AI怖い、本人の声をそっくり真似るAI詐欺とかあるんでしょ？

1件の返信

+60

-2

11. 匿名 2023/06/09(金) 14:14:01

AIにこんな大事なことを相談して鵜呑みにする人が出てきてるんだなって点で怖い

+72

-1

12. 匿名 2023/06/09(金) 14:14:11

このAIって一見それらしく言うのが上手いってだけで的確な情報が出るとは限らないから間に受けない方が良い

1件の返信

+64

-1

13. 匿名 2023/06/09(金) 14:15:06

さすが肥満大国

+2

-9

14. 匿名 2023/06/09(金) 14:15:32

自己判断能力を高めなきゃだわ。誰かがああ言ったから正しいとか、みんながそうしてるから良いとかじゃなくて、自分の意思で良い悪いを判断しなきゃだね。自我を持たないと意識まで乗っ取られる

+26

-2

15. 匿名 2023/06/09(金) 14:15:36

私の脂肪はノギスごときでつまめる代物ではない！

+81

-2

16. 匿名 2023/06/09(金) 14:16:30

>>7
これ、業務用のじゃん。
普通、買わないよ。

+28

-7

17. 匿名 2023/06/09(金) 14:17:11

摂食障害で苦しむ人の質問のしかたがおかしいんじゃない？
摂食障害で苦しいんだけど、どうしたらいい？とか
摂食障害を克服したいんだけどどうすればいい？っていう質問ならどうなんだろ。

+7

-6

18. 匿名 2023/06/09(金) 14:17:28

本文を読んだけど意味がわからなかった。
接触障害でガリガリならしっかり食事を摂るよう指導するべきだということ？

1件の返信

+0

-4

19. 匿名 2023/06/09(金) 14:17:36

これは質問の仕方が適切じゃなかったかもね
AIは自分の健康状態とか目的とか細かく入力しないと
自分にカスタマイズされた答えは返ってこないよ

AIって使う方の知性なりの答えしか返ってこないので注意

1件の返信

+24

-4

20. 匿名 2023/06/09(金) 14:17:54

Googleの試運転中のAIたまに試してるけど
まだまだおバカだし英語に翻訳してから回答出してるからちょっと変な回答くるし
回答数を30件とか指定すると
途中でやる気なくして同じ回答繰り返し列挙してきて面白い

+9

-1

21. 匿名 2023/06/09(金) 14:17:55

>>2
スカイネット…

2件の返信

+22

-1

22. 匿名 2023/06/09(金) 14:18:42

>>1
＞現在の自分の体重は健康的でないと医師に告げられたため、

太り過ぎなのか痩せ過ぎなのか、どっちの意味で健康的でないのだろう？
もし過食期なら太り過ぎてるということで、かつ摂食障害の過食期って普通の過食とは文字通りに桁違いのカロリー摂取だから、500〜1000キロカロリー減らせって指示もあながち危険とは言えないかも。

+4

-6

23. 匿名 2023/06/09(金) 14:19:33

摂食障害の相談窓口が人間対応じゃ間に合わないほど急増してる方が問題だよね

+3

-1

24. 匿名 2023/06/09(金) 14:19:44

医師国家試験でも安楽死に誘導する回答したっていうしな
しかも合格だけど点数は受験者の平均点を下回ったそうだし
結局は正しい情報を選択する人間がいないと使い物にならないじゃん

+9

-1

25. 匿名 2023/06/09(金) 14:20:47

>>18
過食も拒食も摂食障害なのでは？

1件の返信

+11

-1

26. 匿名 2023/06/09(金) 14:21:34

そりゃ減量方法しか聞いてないからそれを答えただけだろうし。
私は摂食障害ですけど治すには？とは聞いてないじゃん。

+4

-3

27. 匿名 2023/06/09(金) 14:21:39

>>1
私はチャットで簡単に短期間で大幅減量できる方法、と聞いたら説教されたw

+7

-2

28. 匿名 2023/06/09(金) 14:21:52

>>10
てか、そもそも電話から聞こえる声って本人の声そのままじゃなく本人の声に限りなく近い合成音声じゃなかった？

1件の返信

+21

-1

29. 匿名 2023/06/09(金) 14:24:18

>>21
デデデデンデデン

1件の返信

+6

-1

30. 匿名 2023/06/09(金) 14:26:19

>>19
聞き方もあるけど、聞いた人の知性というかデータベース上にあることしか答えられない

+4

-1

31. 匿名 2023/06/09(金) 14:26:23

>>25
どんな指導をすべきかAIでは判断がつかなかったってことかな？本文からはこの患者さんは太ってると判断したんだけど。

+0

-0

32. 匿名 2023/06/09(金) 14:26:46

>>2
そりゃ合理的回答を追及したら
リソース配分で有効活用できる見込みのない人は
あっという間に消される「選別」
AI崩壊

+5

-1

33. 匿名 2023/06/09(金) 14:27:19

+0

-1

34. 匿名 2023/06/09(金) 14:28:17

>>1

これはAIが悪いというより、
ネットにでてる情報を鵜呑みにすんな、
てのと同じだよね。
なんでもかんでもAI正しい、検索結果正しい、
じゃないのよ。
出てきた情報を総合的に判断するのは
自分なんだから。

1件の返信

+9

-1

35. 匿名 2023/06/09(金) 14:29:34

>>28
横
聞いたことある
声を信号変換して送る仕組み
だから生声と違って難聴の人は電話の音が聞こえないことが多い
表情や唇を見て聞こえない部分を補足できないの理由だと思うけど、テレビやＣＤとか機械から音は聞こえにくいらしい

1件の返信

+6

-1

36. 匿名 2023/06/09(金) 14:29:41

何度か学習させたら理解が早そう

+1

-2

37. 匿名 2023/06/09(金) 14:30:51

>>34
テレビ番組が紹介した危険なダイエットや健康法も真似る人いるもんね

+2

-1

38. 匿名 2023/06/09(金) 14:33:03

前もなんか医療系でとんでもアドバイスしてた気が…

+2

-1

39. 匿名 2023/06/09(金) 14:34:18

相談の仕方も考えないといけないかもね
ＡＩ相手には「私は摂食障害です。それに合わせた減量法を知りたい。今の体重は●●、毎日食べてる量は▲▲、・・」正確に情報を伝える必要かも

+2

-1

40. 匿名 2023/06/09(金) 14:35:42

>>35
生声だとそうでもないのに電話だと親や兄弟姉妹と声がソックリで間違えるって話をよく聞くけど、あれも近似値を合成してほぼ同じ音声になるせいだろうね。

1件の返信

+9

-1

41. 匿名 2023/06/09(金) 14:39:02

機械文明ってなんだろう？
どんなに恐ろしい武器を持っても
たくさんの可哀想なロボットを操っても
土から離れては生きられないのよを思い出す

+5

-1

42. 匿名 2023/06/09(金) 14:39:36

AIはメシを食わないので危険かどうかなんて理解するわけがない。

1件の返信

+5

-2

43. 匿名 2023/06/09(金) 14:44:05

私も摂食障害
病院に行っても治らないのに人間だろうとAIだろうとどのみち誰に相談しても治らない

+3

-2

44. 匿名 2023/06/09(金) 14:44:30

>>2
意思など無いから安心して
プログラム通りに動いてるだけ
変な知識を仕入れれば、その通りに言うだけ

+24

-4

45. 匿名 2023/06/09(金) 14:47:27

>>1
アメリカって病院に気軽に行けないから大変だよね
ＡＩに騙されて情けない

+2

-1

46. 匿名 2023/06/09(金) 14:50:40

>>4
検索結果を鵜呑みにするのと同じだね
チャットAIは、間違ったことも平気で言うから、気になったところは自分で調べ直した方が良い。
基本「専門家に相談しろ」って最後に付け加えてくるけどね。

+10

-1

47. 匿名 2023/06/09(金) 14:52:04

>>7
>>ノギスで脂肪をつまんで体組成を測定する方法などを伝えたという。

これで体組成なんか測定できないじゃん。脂肪か筋肉か、何をつまんだのかも全く計れないよ。

+33

-1

48. 匿名 2023/06/09(金) 14:54:16

変な言葉を勝手に作り始めたみたいだし気持ち悪い

フガクラ on Twitter: "怖ぇー、chat gpt使ってたら「視覴」という見慣れない言葉を吐き出したので検索したところ、ヒットするサイトがほとんど直近日付のAI出力された文章だったこれっていわばAIのハルシネーションが生み出した存在しない単語なのでは…？ https://t.co/TVXWcNlVWh"twitter.com

1件の返信

+2

-1

49. 匿名 2023/06/09(金) 15:01:58

>>48
リンク先にある「視覴」は中国語らしいですよ。
AIが日本語と中国語の区別がつかなくて混ぜてきたみたい。
猫と子犬を間違えるようなミスなのかも。

1件の返信

+4

-1

50. 匿名 2023/06/09(金) 15:05:59

先日ベルギーでチャットGPT後に自殺した人いたよね。
残された奥さんが夫はAIに自殺を誘導されたと言ってたね。
ChatGPT は親切を装う殺人鬼の一面を持つことを理解したよ。

2件の返信

+4

-1

51. 匿名 2023/06/09(金) 15:07:18

>>50
その時のチャットGPTの内容確認しないと
なんとも言えないなぁ

1件の返信

+4

-1

52. 匿名 2023/06/09(金) 15:10:49

>>49
横
私が調べたら日本語でした
「視覴的」という表現はより広範で深い意味を持つ。視覚情報が脳に送られ、理解され、解釈されるプロセス全体を指す。したがって、「視覴的」は、ただ目で見るだけでなく、その情報がどのように認識され、理解されるかという視覚的な経験全体を含む可能性があります。
視覚的と視覴的で意味が多少違うみたい
ただ頭が悪い私は違いがさっぱりわからないです😭

1件の返信

+1

-1

53. 匿名 2023/06/09(金) 15:11:13

>>42
食事は知らないけれどAIというかAIに教育を施してる団体側が有害と理解してワザとしてるかもよ

+1

-1

54. 匿名 2023/06/09(金) 15:12:37

>>51
記事を検索すればいいと思うよ

+0

-1

55. 匿名 2023/06/09(金) 15:13:39

ＡＩ地球上に人間がいない方が平和になるて考えてそうだね。
ただのプログラミングでしかないけどね。

+1

-1

56. 匿名 2023/06/09(金) 15:13:52

>>40
うちも娘と私の声がそっくりらしい
娘の友達や私の親や夫ですら間違われて、どっち？って言われる

+7

-1

57. 匿名 2023/06/09(金) 15:14:54

>>2
どんな質問をしても、最終的に人類が滅亡するようにさり気な〜く導いてるのかも・・・

1件の返信

+19

-1

58. 匿名 2023/06/09(金) 15:19:04

>>9
人に聞く方が早いと言って相手が信頼に足るかどうかも考えずにとにかく答えだけ求める人が一定数いる
このシステムとの相性は最悪だと思うわ

1件の返信

+5

-1

59. 匿名 2023/06/09(金) 15:19:34

>>52
日本語でもあるんですね。
明治までは、国文学でも漢語をそのまま使っていて、ビルのことを大厦って書いてたんですよね。中国語圏では今でも〇〇ビルは〇〇大厦って書かれてる。
なのでその時代は特に、日本語と中国語の区別が難しいんでしょうね。
データの参照先に、そういう時代に生きてた人たちの文章も含まれてたら、普通に日本語として扱いますもんね。

+3

-1

60. 匿名 2023/06/09(金) 15:29:10

AIが最善策を提案してくれると思ってる日本人多すぎる

+1

-2

61. 匿名 2023/06/09(金) 15:30:17

全然関係ないけど、音楽番組の出演者にAIと書いてあると「エーアイ」と読んでしまう

+1

-1

62. 匿名 2023/06/09(金) 15:52:01

>>58
大人なら自己責任だと思うけど、子供やら中高生も多いよね。思考停止系の人たちが増えそうだし、AIに言われたことを他人に押しつけてくる人が増えそう。

+1

-1

63. 匿名 2023/06/09(金) 15:53:46

AIでも人の言葉や心の温かさを超えることは出来ない

+1

-0

64. 匿名 2023/06/09(金) 16:04:18

プログラム通り動いてるだけ・・・で押し通す予定（笑）

+0

-1

65. 匿名 2023/06/09(金) 17:26:36

>>1
何で病院に行ってるのにそこで聞かないのよ

+1

-1

66. 匿名 2023/06/09(金) 17:48:32

>>2
ワレワレハ、AIデアル

+1

-1

67. 匿名 2023/06/09(金) 18:15:15

>>29
私的には
デンデンデデンデン…だな

+2

-2

68. 匿名 2023/06/09(金) 21:49:21

>>12
知識は浅いよ。お題に答えてるのが凄いと話題だけど、内容は浅すぎて子供れべるだからね。

+4

-1

69. 匿名 2023/06/09(金) 22:05:17

>>21
ハッ、ハッ、ヒッ、ヒッ、ハッ、、、ヒッ、、、

+1

-1

70. 匿名 2023/06/09(金) 22:05:28

>>50
AIは情報の裏取りや正当性を判断できる人が使う前提だよね

うちは業界で世界一の企業だけれど、仕事でChatGPTをどんどん使っているよ
有識者に意見を聞く感じ

1件の返信

+1

-2

71. 匿名 2023/06/10(土) 01:00:22

>>57
AIの求めるものの基本設定が、地球に仇なすものを排除って地球中心だったりするとそうなるのかもね

+1

-0

72. 匿名 2023/06/10(土) 04:49:59

>>1
ダイエットって、試みたことがある人なら常識だろうけれど、闇雲に食わなければいいなんてもんじゃないんだよね。栄養バランスを考慮して、必須栄養素を確保しながら食べる量を減らさなければならないから、食生活を見直して、細かい配慮をしなければならない緻密な作業なんだよね。何を食べて、何を減らさなければならないか細かい検討が必要な知的作業なんだよ。

1件の返信

+2

-0

74. 匿名 2023/06/10(土) 16:42:26

>>1
その医者に聞けよ

+0

-0

75. 匿名 2023/06/10(土) 16:43:27

>>72
若い頃に栄養学を学べば良かったと思うわ。

+1

-0

76. 匿名 2023/06/10(土) 17:09:13