您当前的位置:首页 > 新闻 > 国际

ChatGPT可能泄露商业机密 美国FTC称将重点关注AI违法行为

时间:2023-04-19 10:14:59  来源:新浪科技  作者:

新浪科技讯 北京时间4月19日早间消息,据报道,以色列网络安全公司Team8的最新报告显示,使用ChatGPT等生成式人工智能的企业可能会因此泄露客户信息和商业机密。

该报告称,新型人工智能聊天机器人(11.540, -0.04, -0.35%)和协作工具的广泛普及,可能会令一些公司面临数据泄露和法律风险。他们担心黑客可能会利用聊天机器人获取敏感的企业信息或对企业发动攻击。此外,目前投喂给聊天机器人的机密信息未来也有可能会被人工智能公司利用。

包括微软和Alphabet在内的大型科技公司都在争相通过生成式人工智能技术改进聊天机器人和搜索引擎,利用互联网上获取的数据训练他们的模型,从而为用户提供一站式问答服务。报告称,如果使用机密或私密数据来投喂这些工具,今后将很难删除相关信息。

该报告写道:“使用生成式人工智能的企业,其敏感信息、知识产权、源代码、商业机密和其他数据,可能会通过用户直接输入或API等渠道被他人获取和处理,其中包括客户信息或私密信息以及机密信息。”Team8将这一风险标记为“高风险”。他们认为,如果采取适当的防范措施,该风险“可控”。

Team8在报告中强调,聊天机器人的查询并不会被输入大预言模型来训练人工智能,而与之相悖的是,最近的报告声称这样的提示信息有可能会被其他人看到。

“截至发稿,大语言模型还无法实时自我更新,因此无法将一个人输入的信息反馈给另外一个人,从而有效打消这种顾虑。然而,在训练未来版本的大语言模型时,未必不会采取这种方法。”该报告写道。

该报告还标记了另外3项与整合生成式人工智能工具有关的“高风险”问题,并强调了通过第三方应用分享越来越多的信息所产生的威胁。微软就将部分人工智能聊天机器人功能嵌入了必应搜索和office 365工具。

报告称:“例如,在用户端,第三方应用会利用生成式人工智能API,倘若遭到攻击,就有可能提供电子邮件和网络浏览器权限,攻击者还有可能冒充用户采取行动。”

该公司认为,使用人工智能也有可能加剧歧视问题、损害公司声誉或导致企业遭遇侵权诉讼。这些都属于“中风险”问题。

微软公司副总裁安·约翰逊(Ann Johnson)参与起草了这份报告。微软向ChatGPT的开发商OpenAI投资了数十亿美元。

微软发言人说:“微软鼓励对安全和人工智能领域的网络风险展开透明的讨论。”

OpenAI开发的ChatGPT聊天机器人的火爆引发了监管呼声。各界都担心在企业试图利用这项技术提高效率时,这种创新也有可能会被用于不法行为。

美国联邦贸易委员会(FTC)官员周二表示,该机构将重点关注滥用人工智能技术违反反歧视法或存在欺骗行为的公司。

FTC主席莉娜·可汗(Lina Khan)和委员黎贝卡·斯劳特(Rebecca Slaughter)及阿尔瓦罗·贝多亚(Alvaro Bedoya)都参加了美国国会举行的听证会,他们被问及与最近的人工智能创新有关的担忧。这项技术可以用于制作高质量的“深度伪造”,从而产生更具欺骗性的骗局以及其他违法行为。

贝多亚表示,使用算法或人工智能的企业不得违反民权法律,也不得违规采取不公平或具有欺骗性的行为。

他表示,黑匣子不能成为无法解释算法的借口。

可汗也认为最新的人工智能技术可以帮助不法分子开展欺诈活动。她同时表示,任何不当行为“都应该得到FTC的制裁”。

斯劳特指出,FTC在100年的历史上一直都要适应不断变化的技术,而适应ChatGPT和其他人工智能工具也并无不同。

按照组织设置,该委员会应该拥有5名委员,但目前只有3名,而且全部为民主党人。



Tags:ChatGPT   点击:()  评论:()
声明:本站部分内容及图片来自互联网,转载是出于传递更多信息之目的,内容观点仅代表作者本人,如有任何标注错误或版权侵犯请与我们联系(Email:2595517585@qq.com),我们将及时更正、删除,谢谢。
▌相关推荐
新浪科技讯 北京时间4月19日早间消息,据报道,以色列网络安全公司Team8的最新报告显示,使用ChatGPT等生成式人工智能的企业可能会因此泄露客户信息和商业机密。该报告称,新型人工...【详细内容】
2023-04-19  Tags: ChatGPT  点击:(0)  评论:(0)  加入收藏
  意大利数据监管机构的负责人Pasquale Stanzione周二在接受媒体采访时表示,如果ChatGPT的开发商OpenAI公司能够采取“有效措施”来解决该机构的担忧,他们将允许该公司在4...【详细内容】
2023-04-19  Tags: ChatGPT  点击:(0)  评论:(0)  加入收藏
山姆·奥特曼表示,新的进步不会来自于让模型变得更大,“我认为我们正处于巨型模型时代的末尾”。他的说法表明,GPT-4可能是OpenAI“使模型更大并为其提供更多数据”战略...【详细内容】
2023-04-18  Tags: ChatGPT  点击:(3)  评论:(0)  加入收藏
据说有了它,ChatGPT 就可以靠边站了。因为 Auto-GPT 能更加主动地完成你给他的指定任务,不用做更多的人为干涉,它的推理能力比 ChatGPT 更强,有人用它解放双手做了个 React 网...【详细内容】
2023-04-17  Tags: ChatGPT  点击:(6)  评论:(0)  加入收藏
4月14日消息,据外媒报道,日前,苏黎世大学的研究人员在一篇新论文中发现,ChatGPT可以胜过执行文本注释任务的人群工作者,即标记用于训练人工智能系统的文本。研究人员向ChatGPT提...【详细内容】
2023-04-17  Tags: ChatGPT  点击:(8)  评论:(0)  加入收藏
作为一名不知名数据分析师,我的工作已经离不开Chat GPT 了,下面带大家一起来玩玩。首先我们生成一个电商平台的交易数据,当然你也可以指定一些数据字段,这都没有任何问题,也可以...【详细内容】
2023-04-17  Tags: ChatGPT  点击:(7)  评论:(0)  加入收藏
作者 | 崔皓​审校 | 重楼​摘要​一次革命性的技术升级,ChatGPT 4.0的发布震动了整个AI行业。现在,不仅可以让计算机识别并回答日常的自然语言问题,ChatGPT还可以通过对行业数...【详细内容】
2023-04-17  Tags: ChatGPT  点击:(7)  评论:(0)  加入收藏
出品|虎嗅科技组作者|包校千编辑|陈伊凡题图|视觉中国由OpenAI自主开发的聊天应用ChatGPT风靡全球后,立即在全球范围内掀起了大模型开发的热潮。但准备参战的玩家们很快便认清现...【详细内容】
2023-04-17  Tags: ChatGPT  点击:(4)  评论:(0)  加入收藏
ChatGPT诞生前传最近,OpenAI 的 CEO Sam Altman 在一场公开会议上为 GPT-5 辟谣。他声称 OpenAI 并没有在训练 GPT-5,而是一直基于 GPT-4 做别的工作。OpenAI 是一家非常有趣...【详细内容】
2023-04-17  Tags: ChatGPT  点击:(9)  评论:(0)  加入收藏
新浪科技讯 北京时间4月17日早间消息,据报道,在安德鲁·怀特(Andrew White)获得GPT-4的使用权之后,他使用这一人工智能系统提出了一种全新的神经毒剂。GPT-4是热门聊天机器...【详细内容】
2023-04-17  Tags: ChatGPT  点击:(7)  评论:(0)  加入收藏
▌简易百科推荐
新浪科技讯 北京时间4月19日早间消息,据报道,以色列网络安全公司Team8的最新报告显示,使用ChatGPT等生成式人工智能的企业可能会因此泄露客户信息和商业机密。该报告称,新型人工...【详细内容】
2023-04-19    新浪科技  Tags:ChatGPT   点击:(0)  评论:(0)  加入收藏
  意大利数据监管机构的负责人Pasquale Stanzione周二在接受媒体采访时表示,如果ChatGPT的开发商OpenAI公司能够采取“有效措施”来解决该机构的担忧,他们将允许该公司在4...【详细内容】
2023-04-19    财联社  Tags:ChatGPT   点击:(0)  评论:(0)  加入收藏
库克本周的印度之旅再一次证明,印度市场已成为苹果要“攻破”的下一个重点,但安卓长期的垄断地位与印度政府对美国科技公司的监管,或将成为苹果攻克印度市场的阻碍。...【详细内容】
2023-04-19    华尔街见闻  Tags:苹果   点击:(1)  评论:(0)  加入收藏
近年来,各国中央银行开启“买买买”模式,增加黄金储备。“全球央行2022年购金量达1136吨,创历史新高,且2023年该趋势仍在延续。”世界黄金协会日前发布的一份报告如是说。这份报...【详细内容】
2023-04-19    新华社  Tags:黄金   点击:(2)  评论:(0)  加入收藏
作者: 后歆桐在3月的银行业动荡中,投资者为寻求收益更高的安全投资,将大量存款从银行取出,转而投入货币市场基金,使得美国货币市场基金的总资产在3月底达到创纪录的5.2万亿美元。...【详细内容】
2023-04-19    第一财经  Tags:美国债务上限   点击:(1)  评论:(0)  加入收藏
美国储户将存款搬离中小银行之际,苹果联手高盛推出年率高达4.15%的储蓄产品。当地时间17日,嘉信理财集团(Charles Schwab Corp)公布一季度财报,期内流失存款410亿美元,至3260亿美...【详细内容】
2023-04-19    第一财经  Tags:美国储户   点击:(1)  评论:(0)  加入收藏
强势美元的时代终于结束了?华尔街最准分析师认为,美元现在已进入50年中的第四次熊市。自去年以来华尔街预测最准确的分析师、美国银行策略分析师Michael Hartnett在最新的报告...【详细内容】
2023-04-18    华尔街见闻  Tags:美元   点击:(4)  评论:(0)  加入收藏
推特最近关闭免费API访问的举动影响了公共服务推特账号,这些账号向公众提供重要的更新和信息。这个周末,许多公共服务推特账号表示无法自动发布突发新闻和事件。美国国家气象...【详细内容】
2023-04-17    砍柴网  Tags:马斯克   点击:(7)  评论:(0)  加入收藏
新浪科技讯 北京时间4月14日早间消息,推特老板埃隆·马斯克宣布,推特将向用户开放付费订阅功能,付费对象包括长文本和长视频等。马斯克补充道,在服务上线最初的12个月中,内...【详细内容】
2023-04-14    新浪科技  Tags:推特   点击:(9)  评论:(0)  加入收藏
新浪科技讯 北京时间4月14日早间消息,当地时间周四,美国司法部对美国一家联邦法院表示,如果不是谷歌(108.19, 2.97, 2.82%)垄断搜索市场,ChatGPT和其他技术创新本可能在几年前就...【详细内容】
2023-04-14    新浪科技  Tags:谷歌   点击:(8)  评论:(0)  加入收藏
站内最新
栏目相关
  • · ChatGPT可能泄露商业机密 美国FTC称将重点关注AI违法行为
  • · 意大利:若OpenAI采取“有效措施” ChatGPT月底有望再上线
  • · 又是开新店,又是CEO拜会莫迪,苹果在印度意欲何为?
  • · 全球央行大举购黄金,释放什么信号?
  • · 美国债务上限僵局持续 货币市场基金波动或加剧
  • · 美国储户存款的“奇幻漂流”:爆雷后资金搬家,苹果“高息”揽储
  • · 华尔街最准分析师:美元已开启50年来第四轮熊市
  • · 马斯克关闭推特免费API 美国天气预报和地铁等公共服务帐号瘫了
  • · 马斯克宣布推特将上线付费订阅:含长文本和长视频,不对创作者额外抽成
  • · 美国司法部:如果不是谷歌垄断,ChatGPT等创新可以来得更早
  • · 微软,真的又行了?
  • · 马斯克重要宣布!推特将允许用户交易股票和加密货币等资产
  • · 五角大楼"泄密门"嫌犯被捕瞬间曝光:FBI逼近时他正在露台安静读书
  • · 谁是泄露五角大楼机密情报的“幕后黑手”?
  • · 刚刚,大利空!美联储突发重磅信号,美股大跳水,中概股跟风!大风暴来袭,影响多大?
  • · 储蓄大搬家,美联储要提前结束缩表么?
  • · 不是特斯拉也不是苹果,美国大学生最青睐的雇主仍是谷歌
  • · 美元危机的开始?硅谷银行事件的隐藏逻辑
  • · 特朗普遭刑事指控,为何还能竞选总统?
  • · 轮到服务业了?麦当劳突然关闭办公室,准备裁员
  • 站内热门
    站内头条