钛媒体App 5月10日音讯，OpenAI在官网发布博客文章《言语模型能够解说言语模型中的神经元》（Language models can explain neurons in language models）。他们调用GPT-4来计算出其它架构更简略的言语模型上神经元的行为，这次针对的是发布于4年前的开源大模型：GPT-2。方针是用AI来协助咱们了解AI，简略来讲，便是期望能够运用自动化的办法，让机器完结AI研讨。据悉，这项作业也是OpenAI对齐研讨的第三支柱的一部分：期望对齐研讨自身完成自动化。而且这一方向（对齐）还有望跟着人工智能的发展速度而扩展。 OpenAI表明，它的作业办法包含在每个神经元上运转3个过程：第一步，生成解说运用GPT-4。第二步，运用GPT-4进行模仿；即用GPT-4模仿这个GPT-2的神经元接下来会做什么。第三步，比照评价打分；即依据模仿激活与实在激活的匹配程度为解说打分。经过这样的办法，OpenAI 对每个神经元的行为作出了开始的自然言语解说，并对这种解说和实践行为的匹配程度进行了评分。作用显现，终究OpenAI对GPT-2中307200个神经元悉数进行了解说，并将这些解说汇编成数据集，与东西代码一同在GitHub上发布。 不过，OpenAI还表明，现在GPT-4的解说作用并欠安，尤其要解说比GPT-2更大的模型时体现作用很差。可是，OpenAI信任能够运用机器学习技能进一步进步发生解说的才能：比方经过重复产出解说，并依据激活状况修正解说；运用更大的模型作出解说；以及调整已解说模型的结构等。