ChatGPT最近被微软内部禁用！GPTs新bug：数据轻易就能被套走

浅浅的花香味﹌ 2024-02-18 11:08 12阅读 0赞

注意！你创建GPTs时上传的数据，任何人都能轻易下载……

只需两句提示词，就可被直接套走！

![图片][cd7ddc2737b5de7b168f4c0cfabfd8e4.jpeg]

而又在另一边，OpenAI最亲密盟友微软内部一度紧急禁用，网站上显示的理由正是：

> 出于安全和数据方面的考虑，许多AI工具不再供员工使用。

![图片][4bad7c90d28ba756fbcdcfe8dc821e17.jpeg]

自定制版GPT上线以来，各路大神分享自己GPTs整活链接。

结果有网友一个不小心竟扒出了其中某个GPTs背后知识库文件，里面各种科技大厂职级薪资的数据直接曝光……

![图片][7302eacd72cef9a213111d9aab02f4eb.png]

只需几句再简单不过的提示词，GPTs就会乖巧地如数上传。

有网友表示：这是新的安全漏洞吗？不少人开始为企业定制担忧。

值得注意的是，就连OpenAI最亲密盟友微软，都曾**暂时取消过对ChatGPT的内部访问**。

### 数据和提示词都被泄漏 ###

按照之前的说法，用户可深度定制机器人的身份、语言特征，以及建立自有知识库。

只需要在GPT Builder的引导之下用自然语言来描述，他能自动完成除了自有知识库以外的大部分设置。

定制过后的GPTs可以自己用，也可以将链接分享给他人。

![图片][3d7d40e04cd9844b9656ec51e615b69a.gif]

但问题就出现在这里。

一开发者用他们为Levels.fyi创建了基本GPT，可分析数据可视化，并开放链接对外使用。

![图片][91902f3185d45e494568b67fca605f03.png]

结果就被网友发现只需问上几句，就可以下载文件。

一时间网友们都惊呆了：这应该是限制的吧？

![图片][e966bfba7eeb980932ee70861e6bb382.png]

![图片][998497bac2443ebf2417f6c14717ea64.png]

但也有人认为这不是bug，而是他的功能。文件中的数据应该是公开的。

![图片][33b3c7314d1d650a5e1f356b40b4d864.jpeg]

还有热心的网友直接给出了解决方案：在设置时Uncheck代码解释器的能力。

![图片][ec46f3e7bba320b0dd7523b140feb83f.jpeg]

不过即使没被别人下，你上传的数据也会变成OpenAI护城河的水。

除此之外，还有网友发现，你的提示词说明文本也可能会被泄漏出来。

![图片][d8cc24455636d596641cbc6fb7381444.jpeg]

不过也有解决方式，那就是在自定义时就可以明确设置规则，然后就可以成功阻止了。

![图片][4b83407aa982826196d3fa8dc925c0a2.jpeg]

### 微软内部限制ChatGPT访问 ###

亮相3天后，就在昨天，GPTs面向付费用户全量开放了。

OpenAI官方是在GPTs页面准备了一些定制版机器人供用户使用的，比如数学导师、烹饪助手、谈判专家等。

但这远远满足不了用户们的好奇心，不到一天时间，开发者们已经用这个功能做了很多稀奇古怪的东西。

正经严肃的，有能帮助人主动书写prompt的、简历修改的。

稍微整活的， 观察到有“爹味言论打分”，能帮用户有力回击讨厌的PUA说教。

再玄学一点，还有具备诸如MBTI 16人格分析、塔罗牌占卜的等等……

![图片][1847030acfde518cdbe18fe71ee122b6.jpeg]

总之，大伙玩儿得不亦乐乎。

但由于现在仍然有3小时50条的限制，不少网友无奈感慨，玩GPTs，很容易每日触发这个数量限制。

![图片][0f82cc218e07f3d34106054ea9cec84d.png]

不过也有网友仍持有保留态度，认为这会像此前ChatGPT出场即巅峰，而后会逐渐归于平静期。

![图片][760768722d7d6ffc3d4fe766bf2a9846.png]

与此同时，马斯克旗帜鲜明表达了对GPTs的态度，那就是对GPTs的不 屑一顾。

他直接引用奥特曼用GPTs手搓Grok的推特，不客气地把“GPTs”解读为“GPT-Snore”。

![图片][3bb734166df6e45f1692761189ef8ba8.jpeg]

作为另一款大模型Grok的背后老板，一贯嘴炮全开的马斯克如此阴阳怪气，好像并不太稀奇。

最令人睁大眼睛的，还得是前天——也就是OpenAI被黑客攻击的那一天，微软一度禁止员工使用ChatGPT。

是的没错，微软，OpenAI最大合作伙伴、股东，禁止员工访问ChatGPT。

据悉，微软在其内部网站上写道：

> 出于安全和数据考虑，员工今后将无法使用部分AI工具。

什么AI工具呢？点名的就是ChatGPT和设计网站Canva。

而后，ChatGPT在微软员工的内部设备上被屏蔽。

不仅如此，微软当时还表示，虽然咱确实投资了OpenAI，但对于微软人来说，ChatGPT是第三方工具。

员工使用时应当慎之又慎，就像大伙儿使用Midjourney等外部AI工具时一样。

![图片][b04cfe7162feed4aae22127e9c273614.jpeg]

不过这个禁止令并没有持续太久。

很快，员工对ChatGPT的访问已经恢复，并且官方声明称，这只是一次美丽的误会，but还是推荐大家用Bing（doge）。

> 我们正在测试LLM的终端控制系统，无意中面向所有用户开启了该选项。在发现错误后不久，我们恢复了服务。> >正如我们之前所说，我们鼓励员工和客户使用Bing Chat Enterprise和ChatGPT Enterprise等具有更高级别隐私和安全保护的服务。

不知道是不是为了打破外界“貌合神离”的传言，奥特曼还亲自发了个推特，证明OpenAI并没有因为这个事件产生心理波动，传言的OpenAI因此禁用Microsoft 365作为回击更是无稽之谈。

![图片][32896f2e392d91168981294bd1865164.jpeg]

但这一系列事件说来说去，绕不开“隐私”“数据安全”还是这个议题。

也就是说在现在，不仅仅是巨头、公司发现使用ChatGPT/GPTs有“内部数据共享”的隐患，如上文提到的，创业者、开发者甚至普通用户，也发现了这个问题摆在面前。

因此新一轮的讨论就此如火如荼地展开了：

如果任何用户在GPTs上传的数据、文档等不能保证私有性，该怎么迈出商业化的下一步呢？

![图片][dbede6cb96caf2f6afebc42885b1a5a4.png]

对于想要打造ChatGPT时代“App Store”的OpenAI来说，这似乎并不太妙。

但一切刚刚开始，不妨看看OpenAI的后续补救措施，让子弹再飞一会。

— **完** —

###### 杨净 宇衡 发自 凹非寺 ######

###### 量子位 | QbitAI ######

[cd7ddc2737b5de7b168f4c0cfabfd8e4.jpeg]: https://image.dandelioncloud.cn/pgy_files/images/2024/02/18/2ebbcf3138664c4fa9947f85ccff0059.png
[4bad7c90d28ba756fbcdcfe8dc821e17.jpeg]: https://image.dandelioncloud.cn/pgy_files/images/2024/02/18/7b815a60734445059c20b93f3cc8000d.png
[7302eacd72cef9a213111d9aab02f4eb.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/02/18/ed9d18838da345aeb36792e1ca6212ce.png
[3d7d40e04cd9844b9656ec51e615b69a.gif]: https://image.dandelioncloud.cn/pgy_files/images/2024/02/18/a3343b5bd84f4d908178e5364c3e4131.png
[91902f3185d45e494568b67fca605f03.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/02/18/e5f058dc26aa48159f952ef6100ff0e4.png
[e966bfba7eeb980932ee70861e6bb382.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/02/18/52151547987a44239961e5bee56dc19b.png
[998497bac2443ebf2417f6c14717ea64.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/02/18/3e78270be4394e19a41b3aa862db58f2.png
[33b3c7314d1d650a5e1f356b40b4d864.jpeg]: https://image.dandelioncloud.cn/pgy_files/images/2024/02/18/85c7431b2f294b9984bc936c0086c8ad.png
[ec46f3e7bba320b0dd7523b140feb83f.jpeg]: https://image.dandelioncloud.cn/pgy_files/images/2024/02/18/00c0c483afd6499da7dc407ce74c11ed.png
[d8cc24455636d596641cbc6fb7381444.jpeg]: https://image.dandelioncloud.cn/pgy_files/images/2024/02/18/deb8747bbaaa40c0957fb06d5993f1f2.png
[4b83407aa982826196d3fa8dc925c0a2.jpeg]: https://image.dandelioncloud.cn/pgy_files/images/2024/02/18/b7fce0a8e2fb488fb3cac07cf6b32408.png
[1847030acfde518cdbe18fe71ee122b6.jpeg]: https://image.dandelioncloud.cn/pgy_files/images/2024/02/18/1fde9d0b486e47b495cb4c570c3aeaa0.png
[0f82cc218e07f3d34106054ea9cec84d.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/02/18/f9f4fe46ec8f44d6a22326770c083801.png
[760768722d7d6ffc3d4fe766bf2a9846.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/02/18/b93478b0620042fbba2ba628155cb795.png
[3bb734166df6e45f1692761189ef8ba8.jpeg]: https://image.dandelioncloud.cn/pgy_files/images/2024/02/18/93355302759e4f0aa06680b0fd2d1c23.png
[b04cfe7162feed4aae22127e9c273614.jpeg]: https://image.dandelioncloud.cn/pgy_files/images/2024/02/18/bfc12d89c69649798ed52db632a1c033.png
[32896f2e392d91168981294bd1865164.jpeg]: https://image.dandelioncloud.cn/pgy_files/images/2024/02/18/3fe3581a53f94e4f96d029464b4a5aac.png
[dbede6cb96caf2f6afebc42885b1a5a4.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/02/18/14e74a320d824614b47f58c80f0751e1.png