人工智能:创造未来还是安全威胁?

2023-03-23 15:21


GPT-4 让人工智能再一次冲击了人类的认知。旅行计划、创作歌曲、撰写学术论文和生成代码都已经是上一代的事情了。现在的 GPT-4 能够根据设计草图生成网站,根据图片中的食材生成菜谱,还能理解梗图。据 OpenAI 透露,GPT-4 通过了所有基础考试,而且还是高分通过。在模拟律师资格考试的成绩在考生中排名前 10%左右,在 SAT 阅读考试中排名前 7%左右,在 SAT 数学考试中排名前 11%左右。其表现已经超过了 90%的人类。


图片1.png

短短几个月之内,我们能看到 AI 的能力在高速提升,同时也能感受到 AI 可能带来的危害:在社交媒体上冒充他人进行诈骗、在色情网站上模拟真人进行性交易、在论坛上发布虚假信息或散布谣言等,甚至有人询问 AI 如何制造炸弹。


除此之外,AI 的应用过程也会出现侵犯用户隐私的情况。2019 年,谷歌被曝光智能音箱存在安全漏洞,导致用户的语音指令和回应被无意中记录并保存在了谷歌服务器上。这些数据包括用户的个人信息、位置信息和个人喜好等,涉及用户隐私和安全。


这些案例表明,AI 能给个人信息安全和社会公共秩序带来风险。这也是 AI 应用颇具争议的地方。如果不能够正确地应对,AI 的阴暗面将会限制其自身的发展。这背后,其实就是数据安全问题。

图片2.png


01





人工智能带来独特的安全风险




训练AI所需的样本数据,来源是否合法,用途是否合法?

AI 的背后是海量数据,训练和应用需要大量的样本,这些数据的采集和使用往往需要考虑到数据隐私和安全保护等问题。例如训练 AI 识别垃圾邮件,那么需要考虑如何处理用户的电子邮件内容,以避免泄露用户的隐私信息。

AI是否会篡改“历史”?

随着 AI 的普及,AI 将成为人们的主要信息来源。其提供的不健康、不正确信息有可能误导大众。AI 应用也可能存在信息滥用的情况,例如利用AI进行虚假消息的生成、社交网络上的恶意言论生成等,这些都有可能造成社会面消息混乱。

AI提供的数据是否会超出权限?

AI 回答问题的能力令人惊叹,但其回答的内容是否需要进行管控。例如利用 AI 获得恶意代码、社会工程方法,反而成了违法人员的赋能工具,或者获得敏感信息,甚至重要数据。这些都有可能给社会带来危害。

02




保护数据安全和隐私安全的建议




针对 AI 的这些隐患,小编总结了一些措施和建议,希望大家在应用 AI 的过程中有所考虑。

合规管理数据使用

企业在使用 AI 时需要遵守相关的法律法规,如《个人信息保护法》、《网络安全法》等,严格管理和使用数据,不得超出法律规定的范围和目的。同时,要保持透明和公正,告知用户数据的收集和使用方式,征得用户的明确同意,并尽可能减少数据的收集和使用范围。

开展数据安全评估

企业要定期进行安全漏洞和风险评估,及时发现和解决安全问题,避免数据泄露和滥用。

加强数据保护措施

在使用 AI 的过程中,必定涉及大规模数据的管理。企业需要加强对数据的保护,确保数据安全和隐私安全。要制定合理的数据管理政策和流程,包括对数据的分类、存储、备份和销毁等方面。同时,考虑使用数据加密、脱敏等措施,防止数据泄露和滥用。

03




结语




人工智能的应用给我们带来了很多便利和可能,从 ChatGPT 两月突破一亿用户的表现来看,AI 未来会成为产生观点和信息的重要出口。AI 是喉舌,也是话语权。我们在拥抱 AI 的同时,也需要加强对 AI 的安全防范和监测,确保其应用能够符合伦理和法律标准,使其为社会发展带来积极作用。




关于8797威尼斯老品牌信息:

8797威尼斯老品牌信息(Secsmart)是一家专注数据安全的高新技术企业,创新性提出“云·管·端”立体化动态数据安全理念,在业界率先将人工智能、前沿密码技术成功应用于数据安全领域,实现对结构化和非结构化数据资产的全面防护。产品范围涉及大数据安全、云数据安全、应用数据安全、数据防泄漏、工业互联网安全、数据安全治理以及数据安全治理服务等,已广泛应用于政府、电力、金融、运营商、医疗、教育等行业。