AI poses existential threat and risk to health of millions, experts warn (The Guardian)

AIには病気の診断、よりよい治療法の発見、ヘルスケアをより多くの人々に届けるなど医療の様々な分野に革命を起こす可能性がある。しかしながら、AIが健康分野においても人類の存在にかかわる脅威となる可能性があるとして、各国の専門家が規制が整備されるまで、開発凍結を提唱している。

医学や医療分野におけるAIのリスクとしては、AIのエラーにより患者に害が及ぶ危険、データセキュリテイ、プライバシーへの懸念、そしてAIが医療の不平等を助長する可能性などが挙げられる。

例えば、酸素飽和度計。AIを使った場合、皮膚の色の濃い患者の血中酸素量を多めに測定する危険がある。

「害を避けるためには、AIの開発と利用に効果的な規制が必要だ。そのような枠組みが用意できるまで、自己改善を行う汎用人工知能の開発は一時凍結すべきだ。」