美国白宫:英伟达等八家公司自愿承诺管理AI风险

基金新闻问答发布时间:2023-09-22 浏览量:

美国白宫在9月12日发表声明,表示美国商务部长雷蒙多等政府高官将在白宫召集AI行业高管。声明中宣布,Adobe、Cohere、IBM、英伟达、Palantir、Salesforce、Scale AI和Stability等八家公司承诺采取自愿监管措施,以管理AI技术开发风险。这些措施包括在推出之前进行安全测试、构建以安全为重点的系统,以及为AI生成内容添加数字水印等。

AI技术在快速发展的同时,也带来了一些潜在的风险和挑战。为了确保AI技术的安全和可靠性,监管和管理措施变得尤为重要。美国政府希望通过与AI行业高管的合作,共同制定并实施自愿的监管措施,以减轻AI技术带来的潜在风险。

声明中提到的八家公司均是AI领域的重要参与者和技术开发者。Adobe、IBM和Salesforce等公司是软件和技术领域的领军企业,他们参与AI技术的开发和应用,拥有丰富的经验和专业知识。英伟达是一家在图形和模拟方面具有强大技术实力的公司,其GPU技术在AI计算中发挥着重要作用。Palantir和Cohere则专注于AI在数据处理和分析方面的应用。Scale AI和Stability公司则致力于AI技术的开发和应用。

这八家公司承诺采取的自愿监管措施主要包括进行安全测试。在推出AI技术之前,这些公司将进行全面的安全测试,以确保系统的稳定性和安全性。此外,公司们还将构建将安全放在首位的系统,确保AI技术的设计和实施能够最大程度地保护用户和企业的安全。另外,它们还将为AI生成内容添加数字水印,这样可以追踪和验证内容的来源,防止信息被篡改或滥用。

自愿监管措施的实施将有助于提高AI技术的可持续发展。通过广泛的安全测试和高标准的系统构建,AI技术的质量和可靠性将得到提升。数字水印的应用也将加强对AI生成内容的追踪和溯源能力,从而减少不良内容的传播和滥用。

美国白宫:英伟达等八家公司自愿承诺管理AI风险

美国政府将与这八家公司保持密切合作,监督和推动自愿监管措施的落实。同时,美国政府还欢迎更多的AI公司加入这一自愿监管措施,并共同努力确保AI技术的可持续发展和安全应用。

总之,美国白宫发布的声明显示了政府对AI技术的重视和关注。通过与AI行业高管的合作,共同制定和实施自愿监管措施,可以有效管理和控制AI技术的风险。这将有助于保护用户和企业的安全,促进AI技术的可持续发展。