《衛(wèi)報》報道,澳大利亞醫(yī)學協(xié)會(AMA)在提交給聯(lián)邦政府關于安全和責任的人工智能的討論文件中表示,澳大利亞在人工智能監(jiān)管方面落后于其他類似國家,并指出,需要更強有力的規(guī)則來保護患者和醫(yī)療專業(yè)人員,并建立信任。
此前,珀斯南大都會衛(wèi)生服務中心的五家醫(yī)院有一些工作人員一直在使用大型語言模型撰寫醫(yī)療記錄,于 5 月份被建議停止使用。
據美國廣播公司報道,珀斯南大都會衛(wèi)生服務局局長Paul?。疲铮颍洌澹钤诮o員工的一封電子郵件中表示,使用此類系統(tǒng)無法保證患者數據的保密性,因此必須停止。
人工智能保護措施應包括確保臨床醫(yī)生做出最終決定,并確?;颊邔κ褂萌斯ぶ悄苓M行的任何治療或診斷都知情同意。AMA還表示,必須保護患者數據,并需要適當的倫理監(jiān)督,以確保該系統(tǒng)不會導致更大的健康不平等。AMA指出,澳大利亞應該考慮擬議中的歐盟人工智能法案,該法案將對不同人工智能技術的風險進行分類,并建立一個監(jiān)督委員會。此外,加拿大對人為干預點的決策要求也應當納入考慮。
提交的文件指出:“未來的監(jiān)管應確保受人工智能影響的臨床決策是在決策過程中通過特定的人為干預點做出的?!薄 白罱K的決定必須始終由人類做出,而且這個決定必須是一個有意義的決定,而不僅僅是一個勾選框?!薄 胺ㄒ?guī)應該明確規(guī)定,患者護理的最終決定始終應由人類做出,通常是醫(yī)生?!?/p>
AMA 主席?。樱簦澹觯濉。遥铮猓螅铮睢〗淌诒硎荆斯ぶ悄苁且粋€快速發(fā)展的領域,每個人對它的理解各不相同。他在一份聲明中表示:”我們需要解決澳大利亞的人工智能監(jiān)管缺口,特別是在醫(yī)療保健領域,患者可能會因系統(tǒng)錯誤、算法中嵌入的系統(tǒng)性偏見和患者隱私風險增加而受傷?!?/p>
谷歌首席衛(wèi)生官?。耍幔颍澹睢。模澹樱幔欤觯锊┦勘驹略缧r候向媒體表示,人工智能最終將改善患者的健康狀況,但他也強調了正確使用系統(tǒng)的重要性?!拔覀冇泻芏嗍虑樾枰鉀Q,以確保模型受到適當的約束,保障它們是真實的、一致的,并且遵循我們想要采取的道德和公平方法——但我對其潛力感到非常興奮?!?/p>
注:文章來源于網絡,如有侵權,請聯(lián)系刪除