打造安全AI社会! 科技部领先全球发布AI科研8大準则

科技部今天发布「人工智慧科研发展指引」,是全球首个针对科研团队提出的AI指引,从3个核心价值延伸出8大準则。科技部长陈良基(图中)表示,盼藉此降低AI科技研发的潜在风险,使AI成为一个「善的工具」。    图:科技部提供

科技部今天发布「人工智慧科研发展指引」(AI Technology R&D Guidelines),是全球首个针对科研团队提出的AI指引,从3个核心价值延伸出8大準则。科技部长陈良基表示,盼藉此降低AI科技研发的潜在风险,使AI成为一个「善的工具」。 

科技部今天集结四个人工智慧创新研究中心,共同发布「人工智慧科研发展指引」,供我国AI科研人员遵循参考,以完善我国AI科研环境,并与国际趋势同步。

陈良基表示,今年初开始,科技部广邀各领域学者、专家,召开数场讨论会议后,决定以「以人为本」、「永续发展」及「多元包容」为核心价值,从而衍伸出8大指引,包括共荣共利、公平性与非歧视性、自主权与控制权、安全性、个人隐私与数据治理、透明性与可追溯性、可解释性,以及问责与沟通。

8大準则中,陈良基特别强调,AI软体与硬体不同在于AI会演化,因此科研发展必须注意到「自主权及控制权」的準则,要确保AI的演化在人类的操控範围内,他也表示,如果研发初期有注意到此项目,后续就比较不会引起问题。

另一项「公平性与非歧视性」,则是针对AI演算法的训练资料列出的準则。陈良基解释,AI机器学习依靠的是科研人员给的资料,因此科研人员要确保在执行AI系统、演算法的技术及决策,应落实以人为本的原则,避免产生偏见及歧视。

陈良基也表示,目前AI仍在快速演化,现今法令并不清楚科技与社会间未来的界线,这也是为何全球各国大多选择先订定指引,而不是法律。目前包括欧盟、日本等地区都有针对AI提出基本準则,但普遍都较为广泛,而台湾则是独步全球,率先聚焦科研团队提出AI科研发展指引。  



相关推荐