原文:王武
来源:大样板房
图片来源:由** AI工具生成。
人工智能就像一张加速卡，让我们的生活更加快捷方便。无论是手机上的语音助手，还是路上路过的自动驾驶汽车，AI都像一只无形的手，默默地改变着我们的生活。然而，在享受这种便利的同时，人工智能带来的安全风险也成为人们担忧的重点问题。
今天，大样板房的AI安全课堂正式开始啦！带你走进AI的世界，一起防范AI带来的安全隐患。
严防数据隐私泄露。
人工智能系统通常需要大量数据进行训练和预测。这些数据可能包括个人信息，如我们的网上购物习惯、社交媒体互动，甚至健康信息。如果这些信息被不当收集、存储或使用，可能会侵犯我们的隐私，甚至被用于恶意目的。
最近美国航空、Reddit等多家大公司因数据泄露而备受关注。据了解，仅2023年6月，全球就发生了数百起影响恶劣的数据隐私泄露案件。
2023年6月27日，美国航空公司空 Company的数据被黑客窃取，影响了约8000名申请美国航空公司空和西南航空公司空职位的飞行员。
2023年6月21日，UPS加拿大公司的数据可能在一次数据泄露中被曝光。
2023年6月21日，Mondelez的员工数据在其法律服务提供商Bryan Cave的数据泄露中被泄露。
2023年6月19日，黑客声称从Reddit的服务器上窃取了80GB的机密数据，并威胁要公开这些数据。
简单来说，数据隐私泄露会对个人财产造成威胁；侵犯隐私；人格尊严的损害甚至是个人思想的纠结。
大样板房认为，为了防止此类问题，用户应该定期更新密码，尽可能使用复杂且唯一的密码。同时，尽量避免在不安全的网络环境下输入个人信息，比如公共WIFI。对于一些可能收集用户数据的应用，如社交媒体和购物网站，用户应该了解并设置他们的隐私选项，以控制谁可以看到他们的信息。
当心算法偏差
AI算法的偏差是由算法开发过程中的偏差假设或训练数据中的偏差引起的。它可能会导致算法对某些个人或群体做出不公平或歧视性的决策。
AI算法的偏差来源有两个。一种是认知偏差，是无意识的思维错误，会影响个人的判断和决策。这些偏见源于大脑试图简化对世界信息的处理。认知偏差可能通过以下两种方式渗透到机器学习算法中，包括设计者在不知情的情况下将其引入模型，以及训练数据集本身带有这些偏差。第二，缺乏完整的数据。如果数据不完整，可能不具有代表性，所以可能会有偏差。例如，大多数心理学研究包括本科生的结果，本科生是一个特定的群体，并不代表整个人口。
电子商务公司亚马逊曾经开发了一种基于人工智能的* *工具，对求职者的简历进行筛选和评分。然而，该工具显示出对女性求职者的偏见，因为它使用了过去10年男性占主导地位的历史数据来训练模型。
大样板房呼吁用户关注AI系统的决策过程，并向相关机构或公司举报任何可能的偏见或歧视。同时，用户可以选择支持公开承诺遵守公平和非歧视原则的人工智能企业。
防止人工智能欺诈
AI诈骗是利用人工智能技术的行为，如AI变脸、AI拟声词、AI对话等。，模仿他人的面部、声音或语言，进行欺骗或欺诈。AI诈骗手段多样，可能涉及视频通话、微信语音、直播发货等场景，对公众的信息安全和财产安全构成威胁。
2023年5月，福州某科技公司法人代表郭先生在和朋友聊天时，被对方以借账号转账为由，在10分钟内骗走430万元。事后发现，视频中的好友其实是骗子利用AI变脸和拟声词技术伪造的。
2022年2月，浙江温州市公安局瓯海分局接到报案称，一名陈先生被“朋友”诈骗近5万元。骗子利用陈先生的朋友在社交平台上发布的视频，截取他的面部视频图像，然后利用“AI变脸”技术进行合成，制造陈先生与“朋友”视频聊天的假象，骗取他们的信任。
这个大样板房总结了一些防止AI诈骗的方法:
不要安装陌生的应用:一些不法分子会使用一些看似正常的应用，如换脸软件、美颜软件等，获取用户的照片、视频或声音，然后利用AI技术合成或编辑，制作虚假内容。
减少其照片和音视频的曝光:一些犯罪分子会从社交媒体、网络平台等渠道收集用户的照片、视频或语音，然后利用AI技术进行合成或编辑，制作虚假内容。
询问共同信息:注意对方的面部表情、声音特征、说话风格是否与平时一致，询问一些只有双方知道的信息，如共同经历、生日日期等。，来确认对方是不是自己。
真实信息中的掺假信息:如果接到熟人或陌生人的视频电话或语音信息，要注意对方是否能及时回复自己的问题或反馈，同时可以在真实信息中混入一些虚假信息，如错误的姓名、地址、银行* *，等等。，看对方能不能发现错误或者提出问题。
让对方多和你沟通:如果接到熟人或陌生人的视频电话或语音信息，要注意对方是否能流畅、连贯、有逻辑地和自己沟通，同时可以要求对方多说一些话或多做一些动作，看看对方是否能达到自己的要求或表现异常。
避免被多次验证忽悠，保护信息，互相提示:如果收到转账请求或汇款指令，要提高警惕，通过电话或视频确认对方是不是你。同时，保护好自己的个人信息和隐私，不要轻信任何涉及个人信息和隐私的链接和二维码。
慎用GPT，别让“自己人”坑了。
除了语音和视频传输形式的诈骗，大样板房还注意到目前国内市场上有很多“嵌套GPT”，依靠第三方平台提供的GPT语言模型API开发自己的聊天机器人或其他应用。
不少学者也表示，虽然中国每年的科研投入一直处于世界前列，但对基础学科的研究并没有重点关注，只是一些“二次加工”的工作做得更好，更受欢迎。
对GPT语言模型进行外壳和收费可能会给用户带来一些潜在的风险。带护套的GPT会误导人们购买提供附加价值或增强功能的产品。然而，事实上，这些嵌套版本可能只是稍微修改或定制了原始的GPT模型。如果用户不了解GPT模型的工作原理和能力，可能会基于这种误解做出购买决策，以为可以获得更多的价值或优势，但事实未必如此。
其次，壳牌GPT可能会给用户带来很多风险。例如，外壳的一些版本可能不遵循良好的隐私和安全实践，这可能导致用户个人信息的滥用或泄露。由于GPT模型需要处理大量的用户输入，如果这些输入没有得到适当的保护，用户可能会面临严重的隐私风险。同时，如果误导用户购买外壳版本，而这个版本并没有提供额外的价值，那么用户可能会支付不必要的费用。
大模型屋认为，用户需要对GPT有一个全面的了解，以便做出明智的决定。然而，大多数壳牌GPT公司只是利用用户的好奇心来盈利。
在解决人工智能带来的风险问题的过程中，教育和意识的提升是关键。我们需要教育公众了解AI的工作原理，认识到AI可能带来的风险，以及如何做出安全和负责任的决定。同时，我们也需要鼓励和促进AI的透明性和可解释性，让普通用户了解AI的决策过程，从而做出明智的决策。
大样板房呼吁政策制定者、研究者和企业共同努力解决上述问题。例如，政府需要制定适当的法律法规来保护用户的隐私和安全。研究人员需要开发新的方法和技术来提高人工智能的安全性和可靠性。企业需要对自己的产品负责，确保自己的AI系统不会伤害用户。
同时，我们需要建立一个多方参与的AI治理框架，包括政策制定者、研究学者、企业和普通用户。只有这样，才能保证AI的发展在带来便利的同时，保护我们的隐私和安全。
本网站声明:网站内容来源于网络。如有侵权，请联系我们，我们会及时处理。
温馨提示：注：内容来源均采集于互联网，不要轻信任何，后果自负，本站不承担任何责任。若本站收录的信息无意侵犯了贵司版权，请给我们来信，我们会及时处理和回复。
原文地址"人工智能潜在风险，人工智能警惕"：http://www.ljycsb.cn/qukuailian/211299.html。
微信扫描二维码投放广告
▲长按图片识别二维码
