今日，有媒体报道，国内将有11家大模型陆续通过《生成式人工智能服务管理暂行办法》备案，首批将在8月31日起将陆续向全社会公众开放服务。其中北京5家、上海3家率先上线，广东省2家和其他省市1家也将陆续开放。据悉，广东地区获批公司分别为华为、腾讯，科大讯飞系其他地区获批产品。
其中，北京的5家企业机构，包括：
- 百度（文心一言）
- 抖音（云雀大模型）
- 智谱AI（GLM大模型）
- 中科院（紫东太初大模型）
- 百川智能（百川大模型）
上海的3家企业机构，包括：
- 商汤（日日新大模型）
- MiniMax（ABAB大模型）
- 上海人工智能实验室（书生通用大模型）
这些产品获批后，上述企业机构的大模型产品即可在网站/应用商店下载后直接使用。
获批企业的大模型产品均于今日上线
早在今天00:02时，文心一言率先向全社会全面开放。广大用户可以在应用商店下载“文心一言APP”或登陆“文心一言官网”体验。同时，企业用户可以直接登陆百度智能云千帆大模型平台官网，调用文心一言能力。
据悉，百度还将在10月举办发布会，开放一批经过全新重构的AI原生应用，让广大用户充分体验生成式AI的理解、生成、逻辑、记忆四大核心能力。
今年3月16日，文心一言开启邀测，但在发布会上的“录播”行为一度让用户感到失望。不过，经过数个月的迭代升级，近期升级的文心大模型3.5持续在十余个国内外权威测评中位居第一。
李彦宏表示，当文心一言向数以亿计互联网用户大规模开放服务后，能够获得大量真实世界中的人工反馈，这将进一步改进基础模型，并以更快速度迭代文心一言，创造更好的用户体验。
凌晨1：44，北京智谱华章科技有限公司（ “智谱 AI”）也宣布，智谱 AI的智能助手“智谱清言”全面开放。当前，智谱清言已具备通用问答、多轮对话、创意写作、代码生成以及虚拟对话等能力，未来还将开放多模态等生成能力。用户可通过苹果商店 App Store、安卓主流商店进行下载，或在微信小程序中搜索“智谱清言” 体验其功能。
同样，商汤官方今日也对外界释出消息，公司旗下大模型应用“商量SenseChat”即日起全面向广大用户开放服务。其基模型为商汤联合多家国内顶级科研机构发布的“书生 · 浦语 InternLM-123B”，拥有 1230 亿参数，用户可通过 SenseChat 官网注册使用。
在获批的名单中，百川智能成立时间最短，于今年4月由王小川创立。仅仅过了四个月，百川智能便相继发布了三款通用大语言模型，其8月8日发布的Baichuan-53B参数量级达到530亿。今日，百川智能也表示率先通过《生成式人工智能服务管理暂行办法》备案，面向全社会开放服务。用户可感受 “百川大模型” 在知识问答、文本创作等领域带来的体验。
此外，讯飞星火暂定计划9月1日面向全社会公众开放服务，360智脑也在筹备正式上线中。首批通过备案的其他企业名单，预计也将在1周内陆续由各地方相关管理部门通过。
人类会胡言乱语，人工智能也会
最近半年，AIGC和大模型的成功带来了前所未有的“智能涌现”，人们对即将到来的时代充满期待。
然而，在科技巨头们涌向AI赛道、人们乐此不疲地实验和讨论AI的强大功能，并由此感叹其是否可能取代人类劳动时，AI幻觉问题也越来越不容忽视，成为AI进一步发展的阻碍。Yann LeCun——世界深度学习三巨头之一，在此前的一次演讲中，甚至断言“GPT模型活不过5年”。
随着AI幻觉争议四起，大模型到底能够在行业中发挥多大作用，是否会产生副作用，也成为一个焦点问题。
一言以蔽之，人工智能的胡言乱语，就是所谓的“机器幻觉”。
具体来看，AI幻觉就是大模型生成的内容在表面上看起来是合理的、有逻辑的，甚至可能与真实信息交织在一起，但实际上却存在错误的内容、引用来源或陈述。这些错误的内容以一种有说服力和可信度的方式被呈现出来，使人们在没有仔细核查和事实验证的情况下很难分辨出其中的虚假信息。
目前，AI幻觉可以分为两类：内在幻觉（Intrinsic Hallucination）和外在幻觉（Extrinsic Hallucination）。
所谓内在幻觉，就是指大模型生成的内容与其输入内容之间存在矛盾，即生成的回答与提供的信息不一致。这种错误往往可以通过核对输入内容和生成内容来相对容易地发现和纠正。
而外在幻觉则更为复杂，它指的是生成内容的错误性无法从输入内容中直接验证。这种错误通常涉及模型调用了输入内容之外的数据、文本或信息，从而导致生成的内容产生虚假陈述。外在幻觉难以被轻易识别，因为虽然生成的内容可能是虚假的，但模型可以以逻辑连贯、有条理的方式呈现，使人们很难怀疑其真实性。通俗的讲，也就是AI在“编造信息”。
目前，包括OpenAI在内的主要的大语言模型技术公司都一致表示，正在努力改善“幻觉”问题，使大模型能够变得更准确。
“幻觉”暂未解决，但政策先行
随着人工智能技术的不断发展，生成式人工智能服务逐渐成为人们关注的焦点。这一技术能够在多个领域中产生巨大的影响，但同时也带来了一些管理上的挑战。尤其是今年大模型爆火以来，在监管层面上一直有相关政策落地。生成式AI产品涉及用户数据安全，正式上线前除了要进行算法备案外，还需要向相关部门申报安全评估。
早在4月11日，国家互联网信息办公室发布的关于《生成式人工智能服务管理办法（征求意见稿）》便提出，在利用生成式人工智能产品向公众提供服务前，应当按照《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》向国家网信部门申报安全评估，并按照《互联网信息服务算法推荐管理规定》履行算法备案和变更、注销备案手续。同时，利用生成式人工智能生成的内容应当真实准确，采取措施防止生成虚假信息。
6月20日，国家互联网信息办公室发布了关于深度合成服务算法备案信息的公告，公开发布境内深度合成服务算法备案信息。根据公告附件的清单，共有41个深度合成服务算法被纳入清单，涵盖美团、快手、淘宝、大麦、酷狗音乐、百度文心一格等多个热门应用。
今年7月13日，《生成式人工智能服务管理暂行办法》发布，明确生成式人工智能服务的管理原则和规范，促进该项技术的健康发展。该办法将生成式人工智能服务定义为基于深度学习、自然语言处理、计算机视觉等技术，通过模型生成、数据训练等方式，为用户提供智能化、个性化服务的过程，适用于所有提供生成式人工智能服务的机构和个人。
如今，从备案到获批上线，国内大模型企业终于有了明确的政策准入。率先获批的企业，可以优先推出面向toC用户的AI产品，这意味着在用户积累、数据获取与产品打磨上能占据主导权。