Stories

Detail Return Return

第二屆中國研究生操作系統開源創新大賽亞軍團隊專訪:鋭不可當,未來可期 - Stories Detail

第二屆中國研究生操作系統開源創新大賽亞軍團隊專訪
圖片
01、團隊介紹
首先,熱烈祝賀你們獲得亞軍!這是一個非常了不起的成績。你們的隊名很有特色,背後有什麼故事嗎?團隊成員是如何集結在一起的?我們團隊名叫RISC-V Extreme,當初選題的時候是因為我之前做過算子優化相關工作,然後團隊成員王明偉在北京開源芯片研究院做RISC-V開源生態共建的工作,侯文軒也具有RISC-V開發經驗,於是我們幾個一起報名了大模型在RISC-V上的算子優化這個題,而Extreme則代表了我們團隊的目標是做極致的性能優化。

02、驚喜與認可
圖片
獲得亞軍,你們的心情如何?是否達到了賽前的預期?在比賽中,你們覺得自己哪個環節的表現最為出色,贏得了評委的青睞?獲得亞軍我們非常驚喜,其實能獲一等獎進入路演評比也在我們意料之外,在決賽中,台下的評委其實指出了一些我們的作品存在的不足,也給了一些切實的意見,比如在優化算子的單元測試部分,專家提出需要更準確的標準化測試,不能自己想當然,我們也對此做了優化。表現最出色的環節我們覺得還是路演的時候,通過團隊成員一起努力,得到了評委的肯定。
03、獨特亮點
圖片
雖然與冠軍失之交臂,但你們的項目必然有獨到的創新之處。你認為你們項目中最“酷”、最值得稱道的亮點是什麼?和團隊名RISC-V Extreme一致,我們希望做到也確實在我們的能力範圍內做到了極致的性能優化,體現在為了解決量化數據的不連續問題,我們手寫了內聯彙編來做精確的數據加載和計算的控制。
圖片
04、開發實戰體驗
在openKylin上進行項目開發時,你們遇到的最大的適配性或開發效率上的挑戰是什麼?又是如何利用社區資源來解決的?可以分享一個具體事例嗎?當時為了找出大模型推理場景下的關鍵算子,我們需要使用性能事件抓取工具perf做profile,但是openKylin當前系統自帶的軟件源對此的支持不太完善,因此我們通過翻看社區文檔,求助社區開發者,從源碼進行編譯,包括整個llama.cpp項目的編譯,同時也因為本地編譯會遇到一些問題所以採用了交叉編譯。
05、細節定成敗
回顧決賽,如果現在有機會對項目進行一項優化或改進,你們會選擇哪裏?這是否就是你們認為與冠軍團隊最關鍵的差距所在?除了作品實現方面,可能還有呈現作品的方式,在最後PPT的講演上,我們確實不如冠軍團隊專業,以及ppt講演時由於臨時決定團隊成員全部參與,導致最後上台的時候大家還不能完全熟悉自己那部分ppt內容。
06、團隊凝聚力
在這次比賽中,你們團隊內部最感動或最有趣的一件事是什麼?這次經歷讓團隊成員間的默契達到了怎樣的新高度?最後我們決定路演一起上場,分內容每個人都參與,原本是打算共用一個話筒,但是後來都換上隨身麥,只交接翻頁筆,其實交接過程也挺體現細節的,有時候可能會忘了交接前往邊上走交給下一個同學,可能因此浪費一些時間,但是大家總體還是完成得不錯。
07、收穫與蜕變
除了獎項,這次大賽帶給你們最寶貴的財富是什麼?我覺得還是最後的路演環節,對我們三個來説,都是第一次站在這樣大的舞台上作彙報,對我們都是很難得也很寶貴的經歷,我們積累了這樣的經驗,最重要的是都邁出了這一步。
08、開源初體驗
通過這次比賽,你們對開源開發、對openKylin社區有了怎樣新的認識?這會如何影響你們未來參與開源的方式?在學校的時候雖然也會用git,但是相對還是少,通過開源開發我們可能更多的瞭解團隊開發經驗,怎麼提pr,怎麼樣融新的feature,如何進行開源共建,其中的一些基本流程,都讓我們受益良多。我們也從社區中汲取營養,來豐富我們自己以及反過來共建社區。
09、新星宣言
對於項目的未來,你們有什麼具體的規劃?會繼續迭代嗎?對於你們自己的未來,又有什麼樣的期待和夢想?目前可能還是算力水平受限吧,RISC-V仍然很難實際落地於大模型推理,但是隨着軟硬件的發展,包括此次比賽中所看到的RISC-V的可擴展性都讓我們相信未來RISC-V一定會越來越壯大,其開源生態也會吸引更多人加入,未來我們仍會在大模型推理加速領域繼續做研究,隨着RISC-V擴展和矩陣擴展的成熟,我相信其中的優化機會和提升空間會很大,我們也將會在這個方向上繼續探索和努力!

Add a new Comments

Some HTML is okay.