AIへの懸念

http://jbpress.ismedia.jp/articles/-/52290?page=4　から
職場のAIが示唆する「数字による管理」へのシフト
効率を追求する企業、ヒューマンタッチを失うリスクに要注意
2018.2.8（木） Financial Times

　「科学的管理法」の父、フレデリック・W・テイラーは1世紀以上前に、ストップウオッチを片手に工場内を歩き回った。
　だが、人工知能（AI）の進歩は、コールセンターでのパフォーマンス管理から投資銀行での人材採用に至るまで、数字による経営管理の新たな機会を齎している。
　だが、ここには危険も潜んでいる。最も明白なリスクは、アルゴリズムが独自の偏見を埋め込むことだ。
　筆者は先週、「ギグエコノミー（請負経済）」会社に登録している配達業者と話をした。
　配達業務を十分に受け入れていないため、「サービス契約」を解約するというメールを会社側から受け取ったが、彼曰く、アプリが不具合で、自分の意思に反して仕事の割り当てを断っていたのだという。
　抗議に返答がなかった時、彼はギグエコノミー労働組合として成長している「グレートブリテン独立労働組合（IWGB）」に助けを求めた。
　今年5月に発効する欧州連合（EU）の「一般データ保護規則（GDPR）」によって、こうした労組の立場が有利になるかもし知れない。
　GDPRはデータに関する消費者の権利に大きな重点を置いているものの、労働者の権利にも影響を及ぼす。
　規則の文言は、幾つかの注記事項を設けながら、人は「自動化されたデータ処理だけに基づく」判断に支配されるべきではないと明記している。その一例として、「人間の介入が一切ないe採用」を引き合いに出している。

　経営の公正さや効率を高めるために、データ解析が与えてくれる可能性を企業が探求することは間違っていない。
　だが、制限や安全対策を設けずに深く踏み込みすぎる事、英レスター大学のフィービー・ムーア准教授の言葉を借りれば、「数字に権力を譲り渡す」事には慎重になるべきだ。
　それもただ単に、規制当局や労組からの新たな脅威のためだけではない。企業が失いかねないもののためでもある。
　つまり、人間の判断の微妙な柔軟性や、共感や常識によって加減される判断、そして、机を挟んで座り、話し合うことで問題を解決する単純な能力といったものだ。
　企業がヒューマンリソースから「ヒューマン」を取り除けば、自らリスクを背負い込むことになる。