生成式AI，可以設計芯片了

　　自從去年開始，以ChatGPT為代表的生成式AI(Generative)站在了整個世界的聚光燈下。ChatGPT可以理解用戶基于自然語言的輸入，并且產生相應的輸出。ChatGPT基于大語言模型技術，通過使用海量的語料訓練，可以實現回答用戶的各種問題，還可以幫助用戶完成一些簡單的任務，包括完成文檔編寫甚至Python代碼編寫等等。

　　而在五月十日，谷歌在IO大會上發布了ChatGPT的競品，即PaLM 2大語言模型。谷歌表示，目前ChatGPT類生成式大語言模型最重要的用戶體驗之一就是幫助用戶編寫代碼，而PaLM 2的一大特性就是完成20多種編程語言的支持。其中，對于芯片設計工程師來說，*的亮點就是PaLM 2支持數字電路設計領域最常用的編程語言Verilog。

　　百聞不如一試，目前PaLM 2已經在谷歌的Bard平臺上線開放公測，因此我們也嘗試使用Bard去體會了一把PaLM 2生成Verilog代碼的能力。在試驗中，我們讓Bard生成了兩段代碼，一段代碼是生成一個FIFO(數字電路中最常用的模塊之一)，而另一段代碼則是生成一個模塊，其中包含了兩個前面編寫的FIFO，并且讓*個FIFO的輸出接入第二個FIFO的輸入。生成的方法非常簡單，我們只需要給Bard一個基于自然語言的指令(prompt)，Bard就能夠在幾秒鐘之內完成相應的代碼生成。例如，在*個實驗中，我們使用的指令是“生成一段Verilog代碼來實現FIFO”，生成結果如下圖：

　　從結果來看該生成的代碼的語法正確，邏輯基本正確，但是在FIFO full和empty的信號邏輯上并沒有完全弄對(當然其實FIFO的full和empty的邏輯也是面試中常考的問題，要完全弄對并沒那么簡單)。在代碼風格上，我們還可以在指令中加入更多提示，類似“在代碼中加入更多注釋”，“使用參數來定義接口寬度”等等。

　　而在第二個實驗中，我們主要看的是Bard能否復用之前生成的模塊，并且基于這個來生成新的更大的模塊。我們使用的指令是“寫一個模塊，其中包括兩個你前面寫的FIFO模塊，并且*個FIFO的輸出接入第二個FIFO的輸入”。

　　在這里我們可以看到生成的代碼基本正確，因此我們認為PaLM 2基本擁有了能基于自底向上生成復雜代碼的能力。

　　芯片設計領域生成式AI的進化之路

　　我們從上述實驗中可以看到，谷歌的PaLM 2已經具有了基本的Verilog代碼生成能力，可以生成基本模塊和復合模塊，當然其代碼生成的質量還有待提高。而除了PaLM 2之外，我們認為其他公司推出的類似ChatGPT的大語言模型也有可能會加入對于Verilog類硬件描述語言的支持。

　　根據谷歌在IO大會上發布的信息，目前ChatGPT類的大語言模型已經成為許多工程師在代碼編寫時的重要助手。如果我們參考IT領域軟件開發工程師應用ChatGPT類大語言模型協助代碼編寫的發展的話，我們認為在芯片行業大語言模型也非常有可能會起到重要作用。這里，根據大語言模型在開發流程中起到的角色，我們可以大致分成三種應用。*種應用是根據用戶的指令直接生成代碼，即我們在本文前面給出的兩個例子。第二種應用是在工程師編寫代碼的時候，幫助工程師自動補全代碼;例如工程師只需要輸入一行代碼的前幾個字符，大語言模型就可以根據代碼的上下文自動幫助補全代碼，從而節省工程師的開發時間。第三種應用是幫助工程師分析代碼和debug，正如ChatGPT可以幫助用戶優化Python代碼并找到代碼中的bug一樣，經過相關數據訓練的大語言模型也可以在Verilog中實現相似的功能。

　　展望未來，參考大語言模型在IT行業的應用軌跡，我們認為大語言模型對于芯片設計方面的幫助預計將會從代碼自動補全開始，因為這也是大語言模型在IT行業的切入口——目前我們已經看到類似Github co-pilot這樣的代碼補全產品已經得到了許多IT公司的應用來幫助軟件工程師提升編程效率。相對來說，代碼補全類應用對于大語言模型的要求相對較低，目前的模型已經能實現相當高的準確率，因此我們預期在芯片設計領域也會有應用在Verilog領域的基于大語言模型的代碼補全工具會很快出現幫助工程師提高效率(估計谷歌內部芯片團隊已經開始使用類似的工具)。

　　在代碼補全之后，隨著大語言模型的進一步發展，根據用戶的指令自動生成代碼的大語言模型也將會得到越來越多的應用。這類代碼直接生成類應用從目前來看還需要和整個項目開發流程進一步磨合——究竟這類代碼自動生成的應用最適合使用在底層模塊的編寫，還是在上層模塊間集成的生成上，還需要進一步探索，但是無論如何ChatGPT在自動代碼編寫領域的潛力驚人，可以把原來人工需要數小時才能編寫完的代碼在幾秒內完成，這樣的效率提升無疑將會給整個行業和芯片開發流程帶來革命性的變化。

　　目前來看，ChatGPT類大語言模型在Python等流行編程語言的代碼編寫方面已經有很不錯的效果，這證明了大語言模型實現自動代碼編寫、補全和debug在理論和工程上都是可以實現的。谷歌的PaLM 2對于Verilog的支持仍然有待進一步完善的主要原因我們認為還是訓練的數據量不夠。從訓練數據數量的角度來說，互聯網上有海量的開源Python代碼可供訓練大語言模型來完成高質量的代碼生成，但是互聯網上可用于訓練大語言模型的Verilog代碼的數量比起Python等流行語言來說可能是要少了幾個數量級。并不是人類編寫的Verilog代碼數量不夠多，而是絕大多數Verilog代碼都不是開源的，而是芯片公司的知識產權，例如谷歌在訓練PaLM的時候不太可能獲得高通的Verilog代碼。未來誰會在開發芯片設計領域的大語言模型方面拔得頭籌?我們認為有幾個不可忽視的力量：

　　首先是擁有全棧技術能力的大型技術公司，這些公司既有開發大語言模型的能力，又有成功的芯片業務，包括美國的谷歌和中國的華為等。從技術上來說，這些公司積累了大量的Verilog相關代碼可供訓練大語言模型，而從業務上來說，這些公司同樣也有使用大語言模型來提升芯片設計團隊效率的驅動力。

　　其次是EDA巨頭，包括Synopsys、Cadence等。這些EDA公司擁有極強的業務驅動力和緊迫感，因為大語言模型AI確實會成為EDA行業下一個革命性變化，誰在這個領域占領了先機就會在下一代EDA競爭中取得優勢;從技術積累上來說，這些公司擁有不錯的AI模型能力，同時也有海量的Verilog代碼數據量可供訓練模型(因為這些EDA公司都有相當成功的IP業務，在開發這些IP的同時積累了足夠的高質量代碼數據)。

　　最后，開源社區的力量也不容忽視。從大語言模型角度來看，開源社區在CahtGPT以及開源LLAMA語言模型的基礎上做了大量有意義的探索，另外隨著RISC-V等開源項目的增加，開源社區擁有的數據量也會越來越多。我們預期開源社區有機會去實現一些小而美的基于大語言模型的新穎應用，從而也能推動整個大語言模型在芯片設計領域的技術發展。

　　生成式AI會如何影響芯片設計工程師的工作

　　那么，隨著ChatGPT式AI在芯片設計中扮演越來越重要的角色，芯片工程師的日常工作將會發生怎么樣的變化?由于這里ChatGPT類生成式AI主要針對代碼編寫等前端工作，我們這里的討論范圍也主要是前端數字設計工程師。

　　首先，對于主要工作是前端模塊設計和集成的芯片工程師來說，我們預計很快就會有ChatGPT類的工具可以幫助代碼補全，從而增加效率。而在未來三到五年的時間范圍內，直接使用ChatGPT類生成式AI首先模塊代碼編寫有望獲得真正的應用。從這個角度來說，我們并不認為前端工程師的工作會被取代;相反，數字前端工程師的工作可能會越來越多地專注于模塊的功能定義，以及如何使用生成式AI能理解的方式來描述這個設計，讓AI能產生和工程師設計相符的代碼;從這個角度，甚至可能會出現一些標準化的模塊功能定義描述語言，從而讓AI能產生合理的代碼。

　　此外，芯片驗證工程師的工作將會變得越來越重要。生成式AI可以在幾秒鐘內生成代碼，但是其生成質量從目前來看尚需提高。從這個角度，芯片驗證一方面需要確保AI生成的代碼沒有bug，而更重要的是，芯片驗證需要能和代碼生成形成閉環，例如如何實現一套工作流程，讓AI生成的代碼可以快速使用testbench來確保功能是否正確，并且有辦法告訴AI哪里功能不對來提示AI修改，從而在經過多次迭代后能讓AI自動生成正確的代碼。雖然可能會需要多次迭代，但是因為每次代碼生成需要的時間很短，因此總得來看需要的代碼生成時間還是比起手寫要快許多。此外，使用生成式AI來自動生成testbench以及驗證需要的assertion也將會改變驗證工程師的工作流程，工程師將會需要花更多時間教會AI來生成正確的代碼，從而大大提升效率。