在2023年11月，微软公司内部一度紧急禁用了人工智能聊天机器人ChatGPT，原因在于存在安全漏洞，只需两句提示词，就可以轻易获取上传的数据。该漏洞与GPT Builder的功能有关，用户可以深度定制机器人的身份、语言特征和自有知识库，但也意味着用户上传的数据和提示词可能被泄漏。虽然此後微软恢复了ChatGPT的使用，但此次事件引发了人们对数据安全和隐私的担忧。
这个禁用和恢复的过程展现了微软和OpenAI的合作伙伴关系在竞争与合作中寻求平衡的难度。尽管微软是OpenAI的最大投资者，但由于ChatGPT作为第三方服务存在安全隐患，微软不得不做出禁用的决定。然而，在意识到错误后，微软又迅速恢复了员工对ChatGPT的访问，并强调推荐使用更为安全的Bing Chat Enterprise和ChatGPT Enterprise版本。OpenAI也表示将采取措施解决这些问题，尽管目前仍有许多用户担心数据和隐私安全，他们正在寻求如何在确保数据私有性的前提下，推进GPTs的商业化进程。
