気に入った記事をブックマーク
- 気に入った記事を保存できます
保存した記事の一覧は、はてなブックマークで確認・編集ができます
- 記事を読んだ感想やメモを書き残せます
- 非公開でブックマークすることもできます
エントリーの編集
エントリーの編集は全ユーザーに共通の機能です。
必ずガイドラインを一読の上ご利用ください。
119 usersがブックマーク
59
59
「看護師を描けと言われたら女性として生成するAI」は男女のジェンダー偏見問題があるのか｜山本一郎（やまもといちろう）
119 users
note.com/kirik
記事へのコメント59件
- 注目コメント
- 新着コメント
steel_eel
AIはそこにあるデータの頻度で出してるだけだから、学習用のデータが偏ってたら偏るというだけの話なんだよな。データを工夫するか性別の条件を付けて出力させるかで対処するのは人間の仕事だよ。
muchonov
生成AI業界でのゲブルとルカンのバイアス論争を踏まえてもう一度書いたほうがいい。「CEOを描けといわれたら白人男性が出る」「犯罪リスク識別AIは黒人を選びがち」問題は明らかに差別だとされパッチ当てられた
keshimini
特別指示がなければ一般・標準的なモノに合わせるのは人もAIもなく当たり前のことで、意図的にそれを外すことこそ"思想"だよなぁ。なにか問題があるなら表現ではなく現実を変えろ案件というか、まあ概ね記事に同意。
hobbiel55
単なる事実で生成AIの問題ではないというのには同意。ただ、こういう分かり易い事例は良いが、AIに人事評価をやらせたら女性が低く評価されて、原因が学習データに女性を低く評価するバイアスがあったという例も。
aquatofana
本文読んでないけど差別だし、その延長に「アマゾン採用AI事件(女性社員が少ないのでAIに中立な書類審査をさせようとしたら『女性は採用しないのが社の方針』と誤学習して女性を端から不合格にした)などがあると前から
kiran_o
タイトルしか見てないけど、これはchatGPTで盛り上がる前からAI技術の課題だし、問題視されてるよ。ファインチューニングなどで修正したりもする。データが偏っているとAI予測も偏る。消防士というと男性かいたりね
thongirl
みんな気にしてないけど昔は「看護婦」って言ってたんだよ。でこれからは「看護師」という言い方をしましょうって「意識の高い」提言がされて、アンチフェミも無意識に「看護師」と発する世の中になったんだよ
urtz
正にこの話。スウェーデンでは業種で性別構成比が極端に偏っている https://crossacross.org/ky/gender-gap-index-flaw
Hiro_macchan
もっと男性看護師さんを増やして、男性看護師長さんや男性看護部長さん、男性看護協会理事を増やさないとだめってことでしょうかね。今の看護協会理事って男性の方いらっしゃただろうか？
poTracy
や、現実がそう（犯罪加害者男性80%)だからって「犯罪者」て入力して出力が男性ばかりなのはやっぱあかんやろ・・そこはチューニングするやろ、ってなると思うんでユーザーの不利益か否かで判断されるんじゃね？
kotobuki_84
「犯罪者の自室にはマンガアニメゲームポルノがありました」みたいなのも類型よね。それが事実であるという話と、その事実を素朴に拡声したらどういう影響があるかという話と、異なるレイヤーがある。
fukken
AIに給与計算をやらせたら、女性の給料を低めに出すようになった（現実の女性の給料が低いので）、ってのと同じ話。現行のAIは現実から学習するので、現実に存在する偏りや差別をそのまま反映する。
kari-ko
労働法をきちんと勉強し始めると、インターネット上にある労務の情報って完全な正解が少ないな！と分かるし、それらを拾い集めて答えを返すAIも言わずもがななんだけど、そのAIは労働法に偏見があるワケじゃないよ。
misshiki
“事実として女性の看護師のほうが圧倒的に多いのだから、生成AIが看護師を描写するよう要求されて女性の看護師を描くことは差別でも偏見でもないただの事実であるという結論しか導き出せません。”
differential
いつものオッサンが理路をわざと外して何かを嘲笑したいやつ。AIに偏見があるわけではなく社会に偏見があるわけで、AIを主語にして語ってる時点で欺瞞だし、別にポリコレ基準の中でも先進的でもなんでもない
UhoNiceGuy
多くの人に違和感を与えない回答を出すことをAIには求められているので、多数派を強調するのはあると思う。ただ、看護師に女性が多いのは偏見で是正するべき？峠の走り屋に男が多いのと同じだろ
Shin-Fedor
兵士やゴミ回収業者や土木作業員を描けと指示したら男性ばかりになりそうで、それが差別なのかというと差別ではあろうと思うが、現実世界に実際ある差別を実直に反映しているだけじゃねえのという感じでもある。
longyang
同意しかないな。AIには意見など無く過去のテキストが元なのだから「人間の過去にはバイアスがある！」って当たり前の事言われてもな。朝日新聞でファインチューニングしてみたらどうなるかやって見てほしい。
WildWideWeb
人間の善性を大前提にした集合知論をさして疑うことなく賞賛していた時代(自分もその一員だ)が懐かしいな。結局システム自体は価値判断をしないとしても、さじ加減を調整するポジションを巡る人間側の争いだった。
注目コメント算出アルゴリズムの一部にLINEヤフー株式会社の「建設的コメント順位付けモデルAPI」を使用しています
いまの話題をアプリでチェック！
- バナー広告なし
- ミュート機能あり
- ダークモード搭載
関連記事
「看護師を描けと言われたら女性として生成するAI」は男女のジェンダー偏見問題があるのか｜山本一郎（やまもといちろう）
一般的には、データが多く出回っているものをAIが学習するので、そのデータがもともと偏見を根拠にして... 一般的には、データが多く出回っているものをAIが学習するので、そのデータがもともと偏見を根拠にしていたらAIも偏見に基づいたアウトプットをします、という問題ですね。 しかし、先進的なはずのAIが、人間の生活において長らく因習づいてきた偏見やステロタイプを学習してしまい、先進的なポリコレに抵触するというのは学習させる範囲をどうするかという永遠の課題に直面します。 例えば、アメリカのニュース媒体などがOpenAIに対して起こしている訴訟もある一方で、日本国内のAI規制関連議論（著作権法；文化庁）がこれまた新聞協会に引っ張られて割としょっぱい事態となっているのは既報の通りです。そうなれば（新聞記事やバイアスに対する個人の評価は別として）、生成AIは新聞記事などではない無料で転がっている質の低い記事を参照して学習することになってしまいますから、当然出てくるアウトプットもそう品質の高いものにはならな
ブックマークしたユーザー
すべてのユーザーの
詳細を表示します
詳細を表示します
2024/03/12 リンク