簡要回答
AI智能技術在全球颳起了一股AI風潮，至今爲止我們都不知道AI技術究竟是如何操作的語言模型，它是一個讓人類並沒有辦法理解甚至是不知道該如何去研究的一種技術，但是如果解剖AI語言模型的並不是人類，而是智能AI自己呢。這個想法即危險又忍不住讓人好奇，甚至於你自己都不知道這個想法帶來的研究結果究竟是好還是壞，就在幾個小時之前研究ChatGPT智能大語言模型的OpenAI公司就發佈了最新的研究成果，他們用旗下最新的GPT-4技術研究了 GPT-2的行爲已經獲得了初步的研究成果。
OpenAI集團在官網博客中就發表了一篇文章，標題是“語言模型可以解釋語言模型的神經元”。文中大致意思是講集團開發了一個新的工具，可以使用GPT-4技術計算出其他架構更爲簡單的語言模型的行爲，這一次利用GPT-4技術研究的是 GPT-2的組織架構，GPT-2是4年前所開發出來的大模型。
智能語言大模型和人的大腦是一樣的結構，都是由神經元組成，而智能大語言模型中的神經元會根據用戶所輸入的文本特定規律，去影響大語種本身產生相應的文本。
舉一個最簡單的例子如果有一個用戶在智能大語言模型中輸入了“哪個超級英雄的能力最強”的文本時候，就刺激到了智能語言大模型中關於漫威超級英雄的一個神經元素，而這個神經元素就會提高智能語言大模型在回答中說出關於漫威英雄的一個概率。
OpenAI公司在研發這套最新的工具時候就制定了一套專業的評估流程，首先先讓GPT-2技術運行了文本序列，等待某一個神經元素被激活之後讓GPT-4技術對於這一段新的文本生成解釋。然後讓GPT-4語言大模型去模擬GPT-2的神經元素接下來會做什麼，第3步就是對以上的對比進行評估打分，看 GPT-4技術模擬GPT-2神經元素的結果究竟準不準確？
根據OpenAI公司在博客中發表的文章表示，雖然GP-4現在的生成模擬準確度還不夠完美，尤其是在解釋比GPT-2更優異的大模型時，給出的模擬結果非常差，相信隨着科技不斷的進步這種技術也會越來越成熟。
