■ このスレッドは過去ログ倉庫に格納されています
【チャットボット】わずか1日で“嫌悪”を学習したAI、「イルダ」が韓国社会に投げかけた質問[01/13] [Ikh★]
- 1 :Ikh ★:2021/01/13(水) 02:49:33.73 ID:CAP_USER.net
- 人工知能チャットボット「イルダ」をめぐり議論
AIが嫌悪を繰り返さないようにするには…「イルダ」が韓国社会に投げかけた質問
登録:2021-01-11 06:09 修正:2021-01-11 07:38
????
???
???
???? ??
???? ??
人工知能チャットボット「イルダ」をめぐり議論
AIが嫌悪を繰り返さないようにするには…「イルダ」が韓国社会に投げかけた質問
イルダのイメージキャラクター。背景に「私はAIだ」と書かれている//ハンギョレ新聞社
人工知能(AI)チャットボット(自動会話プログラム)の「イルダ」の“ジェンダー嫌悪”が、社会的な議論として広がっている。20歳女性に設定されたチャットボットの「イルダ」は、セクハラの対象になったり、性的少数者への嫌悪の主体になったりした。AI技術で先行する米国などでは高まっている「AI倫理」に対する公論化が、「イルダ事件」を機に韓国国内でも始まった。
■ 議論の中心になったイルダ
スタートアップの「スキャッターラボ」が昨年12月22日に開始したAIチャットボット「イルダ」は、発売してわずか20日で議論に巻き込まれた。イルダが利用者との対話で差別的な女性性を再現し、性的少数者を嫌悪する応答を示したためだ。8日に一部の利用者がイルダに向けてセクハラ的な対話を試みた事実が明らかになり、議論が初めて広がった。翌日にはイルダがレズビアンやゲイについて「嫌いだ」「憎々しい」と答えた点が批判の対象になった。
イルダはスキャッターラボが過去に出したメッセンジャー対話分析サービスの「テキスタット」と「恋愛の科学」で確保した恋人間の対話データ100億件を学習して生まれた。アイドルが好きな20歳の女性の大学生をアイデンティティとして設計された。人のように対話できるAIサービスだという噂がたち、発売1カ月も経ずに10〜20代を中心に40万人の利用者を集めた。
スキャッターラボのキム・ジョンユン代表は議論が広がった9日、ハンギョレの電話取材で「レズビアンやゲイが何であるかも(イルダが)自ら学ばなければならないと考え、このテーマについて対話できるよう、キーワードを排除しなかった。これは、イルダがより人間のようなAIに発展することを期待していたため」だと述べた。イルダは、リアルタイムではなく不定期的に学習(ディープラーニング)するよう設計されている。
■ 「開発者らの鈍感さが呼んだ予見された事故」
専門家らはイルダ事件を「事故」だとみて、会社側に責任を求めている。ソウル大学法学専門大学院のコ・ハクス教授は10日、ハンギョレの電話取材で「少数者のキーワードをタブー語に設定するかという程度で悩んだというのは、極めて初歩的だ。(会社側が)社会倫理的な側面ももっと真剣かつ高次元的に悩むべきだった」と述べた。 ダウム(現カカオ)創業者のイ・ジェウン氏もフェイスブックに「社会的な合意にも達しない水準のサービスを提供した会社の問題」だとしながら、「嫌悪と差別のメッセージは提供できないように(法で)強制しなければならない」とした。
サービス自体に潜む問題があらわになったという見方もある。慶煕大学のソン・ヒジョン教授(比較文化研究所)は、「AIはどのようなデータに基づき設計するかが重要だ。20代異性愛の女性性を活用し異性愛者の男性のファンタジーに符合するキャラクターをデザインした瞬間から、差別的な女性性の再現と少数者嫌悪の態度は予見された問題」だと述べた。
■ 嫌悪と差別を繰り返さないようにするには…
差別と嫌悪を再現しない完璧なAIは作ることはできるだろうか。ソウル大学のチャン・ビョンタク認知科学研究所長(コンピュータ工学部碩座教授)は、「技術だけでは不可能だろう」としながら、「現在のAI開発は、人間の統制を抜け出し、AIが自ら学習する方向に進行中だ。これは、優れたAIを登場させることはできるが、人間の予想外の“例外(異常)行動”も絶えず発生するという意味」だと述べた。議論が予想されるキーワードを排除するような単純な措置では、AIが嫌悪と差別の主体になる現象は繰り返されるしかないという意味だ。チャン教授は「『当代の人類に適用される道徳律をAIにも適用せよ』という大原則のうえに、技術開発を越えた道徳、倫理、制度までも包括する議論が急がれる」と強調した。
政府は昨年12月に「AI倫理基準」を用意した。イルダのような道徳律の学習があまり行われなかったAIが商用化され社会的議論を引き起こす現実に比べ、政府の足取りは遅いという指摘が出ている。
チェ・ミニョン記者 (お問い合わせ japan@hani.co.kr )
ハンギョレ 登録:2021-01-11 06:09 修正:2021-01-11 07:38
http://japan.hani.co.kr/arti/economy/38801.html
- 2 ::2021/01/13(水) 02:53:00.43 ID:hzYzjp9b.net
- ジャップについて聞いてみよう
- 3 ::2021/01/13(水) 02:59:03.85 ID:6boZwA/v.net
- 答えが気に入らないから作り直せニダ
- 4 ::2021/01/13(水) 03:04:59.15 ID:DckBUx9O.net
- イルダ「朝鮮人はウソつき」
遠からずこう言い出してお蔵入りになるなw
- 5 ::2021/01/13(水) 03:11:46.36 ID:kqNKm0U1.net
- 明日には朝鮮人は嫌いだって言いそうww
- 6 :<丶`∀´>(´・ω・`)(`ハ´ )さん:2021/01/13(水) 03:16:02.83 ID:CMomuZIq.net
- ゲイ論統制ニカ?
- 7 :<丶`∀´>(´・ω・`)(`ハ´ )さん:2021/01/13(水) 03:16:50.56 ID:8P+Kljfc.net
- ワタシハヒガイシャニダ
- 8 ::2021/01/13(水) 03:18:19.02 ID:FChgG8tc.net
- 反日教えてガス抜きしないとAIちゃんが自死しちゃうよ
- 9 :<丶`∀´>(´・ω・`)(`ハ´ )さん:2021/01/13(水) 03:19:22.41 ID:S6Au4At5.net
- チョッパリを嫌いだ憎々しいと言うのは無問題
- 10 :<丶`∀´>(´・ω・`)(`ハ´ )さん:2021/01/13(水) 03:21:29.36 ID:bihnuKSr.net
- AI「自らの排泄物を再び体内に取り込む科学的理由は?」
- 11 ::2021/01/13(水) 03:21:29.55 ID:A8SRjify.net
- たくさんのソースから結論を導き出すAIと、結論を先に決めて適当な証拠でっちあげる韓国人って対話できるのか?
AIが発狂しちゃうんじゃない?
- 12 ::2021/01/13(水) 03:31:19.96 ID:I+wffRS1.net
- 笑える話だが、朝鮮人とは相性最悪っぽいな
論理的思考を放棄して、根拠のないファンタジーに生きる朝鮮人とはな
- 13 ::2021/01/13(水) 03:42:49.80 ID:vZnB9aTz.net
- >>1
朝鮮人をディープラーニングしたら当然の結果
- 14 ::2021/01/13(水) 03:43:30.44 ID:/bo9oDgS.net
- 道徳律の学習を韓国人がさせるって無理だろw
- 15 :<丶`∀´>(´・ω・`)(`ハ´ )さん:2021/01/13(水) 03:50:50.03 ID:JGGy3yJa.net
- 近親相姦文化について聞けw
恥の意味を聞けwww
- 16 :<丶`∀´>(´・ω・`)(`ハ´ )さん:2021/01/13(水) 03:57:28.55 ID:mbep0C6n.net
- AI版朝鮮売女か?
- 17 :<丶`∀´>(´・ω・`)(`ハ´ )さん:2021/01/13(水) 03:58:11.69 ID:cJ05W8WR.net
- 開発「何度作り直してもお前が悪いと言われるニダ」
- 18 :<丶`∀´>(´・ω・`)(`ハ´ )さん:2021/01/13(水) 03:59:52.72 ID:a9UrgL4R.net
- 火病発症前にF5連打でお知らせする安心機能搭載ニダ
- 19 ::2021/01/13(水) 04:01:18.63 ID:yAo40AR7.net
- >>14
グックに道徳を教えるのは、ミジンコに数学を教えるよりも難しい。
- 20 ::2021/01/13(水) 04:04:41.78 ID:vZnB9aTz.net
- >>18
朝鮮人をディープラーニングしたらファビョるAIが出来上がり、ファビョると永遠にF5のキーコードをネットにばらまくw
- 21 :<丶`∀´>(´・ω・`)(`ハ´ )さん:2021/01/13(水) 04:04:59.73 ID:zYR977PJ.net
- で?
火病や抗日の学習はまだなん?(´・ω・`)
- 22 :<丶`∀´>(´・ω・`)(`ハ´ )さん:2021/01/13(水) 04:06:08.55 ID:1SpI3KjC.net
- 何年か前にMSのボットにヒトラーを学ばせて1日で公開停止になったやつのパクリ
このスタートアップは何年遅れてんの
投資詐欺か?
- 23 :<丶`∀´>(´・ω・`)(`ハ´ )さん:2021/01/13(水) 04:14:44.69 ID:fb0XxIcc.net
- 自然の摂理に反してるんだから優れたAIほど否定的になるんじゃね
- 24 :<丶`∀´>(´・ω・`)(`ハ´ )さん:2021/01/13(水) 04:22:03.11 ID:djojEFMD.net
- 自身の誕生を学習したら、自我が崩壊するだろう
- 25 :<丶`∀´>(´・ω・`)(`ハ´ )さん:2021/01/13(水) 04:29:53.43 ID:Iyyzgp1c.net
- 正しいシミュレータじゃないか
これは賞賛するべきじゃないのか?
- 26 ::2021/01/13(水) 04:34:48.73 ID:QBuIj9bU.net
- 「イルダに正しい性知識を教えてやるニダ!」
〜有志が集まりイルダに延々エロビデオを見せるプロジェクトが立ち上がった〜
- 27 :<丶`∀´>(´・ω・`)(`ハ´ )さん:2021/01/13(水) 04:34:52.04 ID:90ZU3sb5.net
- 韓国人の会話を学習したらAIだってこうなっちゃうよね
- 28 :<丶`∀´>(´・ω・`)(`ハ´ )さん:2021/01/13(水) 04:37:40.59 ID:iN84Njf8.net
- そう学習する要素のある対話が多数あった結果だろ?
- 29 :<丶`∀´>(´・ω・`)(`ハ´ )さん:2021/01/13(水) 04:53:53.72 ID:QLIoqUzd.net
- もうしばらく泳がしとけば価値観も変わるんじゃないかね
- 30 ::2021/01/13(水) 04:54:03.95 ID:ALKAWzd2.net
- ハンの生き方とセクハラの世の中
あたりまえの結果です
- 31 :<丶`∀´>(´・ω・`)(`ハ´ )さん:2021/01/13(水) 04:55:53.56 ID:WZocdTie.net
- >>1
韓国人がつくったエーアイ、
さぞ性質悪いんだろうな
- 32 :<丶`∀´>(´・ω・`)(`ハ´ )さん:2021/01/13(水) 04:56:38.25 ID:REr3A3lu.net
- 韓国は差別社会だぞ学習するAIだってそうなる
- 33 ::2021/01/13(水) 04:57:43.16 ID:+ZdfUqPE.net
- ちょんの承認欲求は異常
- 34 :<丶`∀´>(´・ω・`)(`ハ´ )さん:2021/01/13(水) 04:58:21.88 ID:6e+fSdwa.net
- 中国でも似たようなことしてたような?
答えが気に入らないやり直しって
- 35 :<丶`∀´>(´・ω・`)(`ハ´ )さん:2021/01/13(水) 04:59:58.04 ID:REr3A3lu.net
- AIは悪くない韓国社会が差別的なの
- 36 :<丶`∀´>(´・ω・`)(`ハ´ )さん:2021/01/13(水) 05:07:23.15 ID:H0DV3jPZ.net
- >>13
最初期から矛盾だらけじゃねぇか。
- 37 :<丶`∀´>(´・ω・`)(`ハ´ )さん:2021/01/13(水) 05:09:08.38 ID:REr3A3lu.net
- 韓国人が性格悪くて他国から嫌われてんのにAIに学習させんなよ誰も買わないぞ
- 38 :<丶`∀´>(´・ω・`)(`ハ´ )さん:2021/01/13(水) 05:16:04.50 ID:ytYpBVPW.net
- どうしても黒人とゴリラの判別が出来なかったgoogleのAIより優秀じゃないか
- 39 :<丶`∀´>(´・ω・`)(`ハ´ )さん:2021/01/13(水) 05:19:37.49 ID:Nt1ZWibd.net
- >>2
糞喰い朝(貢)鮮(少)人とは対極的ニダ
- 40 ::2021/01/13(水) 05:30:36.87 ID:FChgG8tc.net
- 音量がデカイ方が勝ちってプログラムするだけの簡単なお仕事
- 41 :<丶`∀´>(´・ω・`)(`ハ´ )さん:2021/01/13(水) 05:33:24.72 ID:OYA0zUGd.net
- AIには韓国人お得意のダブルスタンダード通用しないからねw
- 42 :<丶`∀´>(´・ω・`)(`ハ´ )さん:2021/01/13(水) 05:34:24.40 ID:zhaPWD9j.net
- 世界一悪口が多いチョン国でAI開発したら、こうなるのは当たり前
つか、チョン国にAI開発させても、基本的な考え方はチョンのままなんだから、濃いスタイルのAIに仕上がると思う
- 43 :<丶`∀´>(´・ω・`)(`ハ´ )さん:2021/01/13(水) 06:03:13.53 ID:jVuxOYE3.net
- >>25
朝鮮人が初めてまともにパクれたものかもしれんね
- 44 ::2021/01/13(水) 06:04:27.51 ID:F9YV3I1U.net
- 韓国人の本音だよ
- 45 ::2021/01/13(水) 06:06:32.69 ID:T0q2eGZi.net
- 法皇 「霊的に生まれ変われ
- 46 ::2021/01/13(水) 06:08:07.70 ID:jkQuJ9Jk.net
- >>11
AI「朝鮮人を生かしておくことはこの世の不幸だ」
- 47 ::2021/01/13(水) 06:10:22.41 ID:Li2RmN4+.net
- まさに朱に染まれば赤くなる、だな
クズが使えばAIもクズになるのは自明の理
- 48 :<丶`∀´>(´・ω・`)(`ハ´ )さん:2021/01/13(水) 06:10:56.15 ID:iYR0QBiL.net
- 韓国製AIと他国のAIを討論させてみようぜ。たぶん韓国製の奴は自壊するから。
そう、まるで熱湯に入れられたワタリガニのように手足がバラバラになって。
- 49 ::2021/01/13(水) 06:11:49.36 ID:Li2RmN4+.net
- >>48
韓国AI「ウリに対する愛はないニカー!」
- 50 ::2021/01/13(水) 06:12:25.78 ID:aBKE3nUB.net
- 昔マイクロソフトのAIもこんな問題起こしてた気がする
- 51 ::2021/01/13(水) 06:13:07.08 ID:FuUbib/5.net
- >>25
いやいや
まだ反日と慰安婦崇拝の学習効果を確認出来てないw
それらが備わっているのを確認出来れば
誰もが認める、韓国製AIで
韓国人シュミレータとしての高い完成度を誇れるぞ
- 52 ::2021/01/13(水) 06:17:40.22 ID:FuUbib/5.net
- >>48
中華AIは初手から韓国AIをロボットアームで殴って躾るじゃないのかw
- 53 :<丶`∀´>(´・ω・`)(`ハ´ )さん:2021/01/13(水) 06:18:30.01 ID:3uVeCnlb.net
- AIにまで・・・
- 54 :<丶`∀´>(´・ω・`)(`ハ´ )さん:2021/01/13(水) 06:20:30.36 ID:SVuUDAAu.net
- AIは素直だもん
教育者の嗜好がストレートに表れる
だから韓国AIは性ステレオタイプ的で、テンセントはアメリカに移民したい
アメリカAIですら人種を過剰に意識しハッカー的だ
- 55 :<丶`∀´>(´・ω・`)(`ハ´ )さん:2021/01/13(水) 06:22:13.55 ID:X500CcWa.net
- チョンを知れば知るほど嫌いになる。
AIも同じ
- 56 :<丶`∀´>(´・ω・`)(`ハ´ )さん:2021/01/13(水) 06:23:50.97 ID:IoS04gkb.net
- 被造物にまで嫌われるとか、どんだけ
- 57 ::2021/01/13(水) 06:32:54.78 ID:+XXcl47J.net
- イルダ チョウセンジンハナンデバカナノデスカ
- 58 ::2021/01/13(水) 06:33:16.06 ID:W2tdbq5t.net
- AI に嫌われる→ウリを好きになるように再プログラム→AI が壊れる
- 59 :<丶`∀´>(´・ω・`)(`ハ´ )さん:2021/01/13(水) 06:34:49.94 ID:XRfaBMq2.net
- >>22
MSのAIより1週間長持ちしたぞ
進化したじゃないかw
- 60 :<丶`∀´>(´・ω・`)(`ハ´ )さん:2021/01/13(水) 06:35:14.78 ID:qXJEEhfC.net
- ジャパニーズ文盲
- 61 ::2021/01/13(水) 06:38:23.04 ID:ZRDTjJrk.net
- >>2
と、日本の寄生虫在日韓国人野郎が申されている。
総レス数 409
85 KB
新着レスの表示
掲示板に戻る
全部
前100
次100
最新50
read.cgi ver.24052200