Appleカードが男女差別

システムトラブル人工知能

 ウォズニアック氏は、自分と妻は銀行やクレジットカードの口座を共有しているにもかかわらず、アップルカードの自分の利用限度額は妻の10倍だと明らかにし、他の金融機関では自分と妻は平等に扱われているとも指摘。

  アルゴリズムに明らかに欠陥がある」とし、「非常に多くの人は『技術は敬愛するが、制御がなっていない』とぼやくだろう。これはまさに今回の件に当てはまると思う」と語った。

やっぱ深層学習で男女差別的なデータを学習した奴かな.

  アップルカードの問題は、ハイテク起業家のデービッド・ハイネマイヤー・ハンソン氏が7日以降のツイートで、自身に与えられた利用限度額が同氏の妻の20倍だったことに疑問を呈したのがきっかけで明らかになった。ニューヨーク州金融サービス局(DFS)は調査開始を発表している。

あの DHH か.なるほど.そら彼が言えば大ニュースになる.


https://b.hatena.ne.jp/entry/s/www.bbc.com/japanese/50370810

DHH@dhh

The @AppleCard is such a fucking sexist program. My wife and I filed joint tax returns, live in a community-property state, and have been married for a long time. Yet Apple’s black box algorithm thinks I deserve 20x the credit limit she does. No appeals work.29,2535:34 – 2019年11月8日Twitter広告の情報とプライバシー11,208人がこの話題について話しています

  • id:quick_past システムのバグは開発側にあるわけだけど、AIの場合なぜ擁護が湧くのだろうか?
  • id:TakamoriTarou 「コンピュータがアルゴリズムに従ってるから公平だ」って言うのは「ルールに従っているから公平」ってのと同じだよなあ…。まずいと言われて「レシピに従ってるからおいしい」と反論するみたいな。
  • id:nowa_s 男性は身長が高い方が高い地位につきやすく、収入も高くなりやすいって調査結果があるけど、購入した洋服や靴のサイズとかから身長を判定されて、カードの限度額を変えられたら嫌だよね
  • id:yuzumikan15 直接関係ないけど、米国では囚人を仮?釈放していいかを過去の犯罪者の再犯率から機械学習してるとこがあり、どうしても黒人スラム街出身者は仮釈放されにくくなるとテレビでやっていた。教師データに何使うかよね。
  • id:marmot1123 食わせるデータに男女の別や名前等を入れずに判定させれば良いのではなかろうか。そう簡単ではない?
  • id:differential 与信の情報から性別をなくしたらダメなん?アファーマティブは別建てで考えるとして/性別で年収の多寡傾向はあるだろうけど、性別で精算や返済のトラブルの差とかあるのかな。

それが違うんですよ.

Amazonの採用AIの事例で報告済み.男女という項目を消したところで他のデータから性別との相関がとれるから,間接的に女性の可能性を推測し,それを元に教師信号に含まれる男女差別を再現したようだ. *1 

Apple Cardはクレジットカード中でも最も立ち上げに成功」提携先のゴールドマン・サックスCEO発言

https://japanese.engadget.com/2019/10/17/apple-card-ceo/少し前の記事より,

もっともApple Cardの審査基準に関しては、米国では通常なら落とされてもおかしくないクレジットスコア(その人の信用を測る目安)600台でも承認されたとの報告もありました。もともと投資銀行であるゴールドマンにとって消費者金融は新たな領域であり、アップルと提携したのも莫大な数のiPhoneユーザーにすそ野を広げる狙いと見られていることからも、ひとまず審査基準は甘くして多くの顧客の取り込みを優先していると思われます。

カテゴリー:

コメントを残す

以下に詳細を記入するか、アイコンをクリックしてログインしてください。

WordPress.com ロゴ

WordPress.com アカウントを使ってコメントしています。 ログアウト /  変更 )

Google フォト

Google アカウントを使ってコメントしています。 ログアウト /  変更 )

Twitter 画像

Twitter アカウントを使ってコメントしています。 ログアウト /  変更 )

Facebook の写真

Facebook アカウントを使ってコメントしています。 ログアウト /  変更 )

%s と連携中