天天看點

第十屆 Sky Hackathon 邀請您組隊挑戰基于 RAG 建構智能對話機器人

作者:NVIDIA英偉達中國

随着大語言模型(LLMs)的發展與廣泛應用,我們正身處一個技術革新的時代。為了深入挖掘和探索這一技術的潛力,我們誠摯地邀請您參加 NVIDIA 第十屆 Sky Hackathon 活動。本次 Sky Hackathon 的核心議題是“基于 RAG 技術創新建構智能對話機器人”。我們鼓勵參賽者運用 RAG(Retrieval-Augmented Generation)技術,并結合 NVIDIA 的 SDK 工具,自主設計和搭建對話機器人。

參加 Sky Hackathon, 您将有機會

  • 深入了解并實踐 RAG 技術,掌握搭建對話機器人的核心技能。
  • 親身體驗 NVIDIA SDK 的強大功能,為您的開發工作提供有力支援。
  • 體驗 NVIDIA NIM 在生成式 AI 中的強大作用,以及在邊緣端裝置上部署實踐的流程。
  • 與同行交流學習,共同探索生成式 AI 的更多可能性。
  • 展示您的創意和實力,赢得豐厚的獎品和參賽證書。
  • 活動過程中,完成 NVIDIA DLI 線上課程《Building RAG Agents with LLMs》,還将獲得 NVIDIA DLI 頒發的學習證書。
  • 活動過程中,在 CSDN 或者知乎上撰寫學習筆記也将額外獲得精美小禮品。

通過您的參與和努力,Sky Hackathon 将成為推動生成式 AI 技術發展的重要力量。期待您的加入,共同開啟這場技術的盛宴!

關于 Sky Hackathon

Sky Hackathon 由 NVIDIA 發起并主辦,項目旨在幫助在校參賽隊伍、AI 開發者在 NVIDIA Jetson 邊緣高性能計算産品上部署和優化 AI 應用。在經驗豐富的 GPU 導師指導下,通過黑客松競賽的方式學習業界所需的深度學習相關應用開發及其并行計算技能,激發參賽隊伍們的學習興趣與創新力。

NVIDIA 工程師将親自為參賽隊伍帶來他們對最新的深度學習與邊緣計算方面的了解、行業的趨勢與最新的技術應用及最新開發工具實戰技能知識,在訓練營中對參賽隊伍進行指導。

Sky Hackathon 為參加者提供了一個難得的學習并實際操作的機會,學習嵌入式深度學習開發所需的動手技能,通過使用 NVIDIA 最新的程式設計模型、庫和工具以加速和優化他們的 AI 應用程式。

整個活動包含了訓練營和黑客松比賽,全程采用線上的方式。

本次大賽前三名将獲得由創樂博贊助的 Jetson Orin NANO(4GB)開發套件,第四名到第十三名将獲得由創樂博贊助的 Jetson NANO 開發套件,所有完賽隊伍成員将獲得 NVIDIA 限量版徽章和一份精美禮品。

*完賽隊伍都将獲得參賽證書

活動贊助商

湖南創樂博智能科技有限公司(創樂博)是一家教育裝置公司,相關産品主要包括:樹莓派、NVIDIA Jetson 系列等,包括科教裝置上千款産品。

【官方網站】:

【電商平台】:

活動報名

本次大賽需要收取 100 元押金,活動結束後 100 元押金将原路退回。組隊成功後,活動助教會通過郵件聯系隊長收取 100 元。

微信識别二維碼 報名參與本屆 Sky Hackathon

往期活動回顧

第一屆活動可以通路:

https://mp.weixin.qq.com/s/NmKVftUs5diTrDRl2Rblmg

第二屆活動可以通路:

https://mp.weixin.qq.com/s/1M50CStTGzQTY2ADuUpeYQ

第二屆活動導師評價:

https://mp.weixin.qq.com/s/Sue6OV0eZyYlD2vvSLvwEg

第三屆活動可以通路:

https://mp.weixin.qq.com/s/r-nd9zDbaYdrQ0nZzKl5vg

第四屆活動可以通路:

https://mp.weixin.qq.com/s/df1QCJ5MRLd8CxrHkSylcg

第五屆活動可以通路:

https://mp.weixin.qq.com/s/Rt9Xz_YmI9VsjL8tUsjuqg

第六屆活動可以通路:

https://mp.weixin.qq.com/s/VzX3bjmXQ_el0W-Ilc8ltg

第七屆活動可以通路:

https://mp.weixin.qq.com/s/nDNn6SszX14pE5KIqNMITg

第八屆活動可以通路:

https://mp.weixin.qq.com/s/HGo0jZqHNyGW3UkJlMfaVQ

第九屆活動可以通路:

https://mp.weixin.qq.com/s/Reu7-q3ujBg_zCwv54B3-w

本次大賽任務介紹

本次大賽主題“基于 RAG 技術創新建構智能對話機器人”

本次 Sky Hackathon 比賽旨在讓參賽隊伍通過實踐,深入了解并應用 RAG(Retrieval-Augmented Generation)技術,結合大模型,自主搭建并優化對話機器人。具體任務包括以下幾個部分:

◆ 學習 RAG 技術與大模型的結合:

參賽隊伍将通過主辦方提供的介紹和 DLI(Deep Learning Institute)課程(https://learn.nvidia.com/courses/course-detail?course_id=course-v1:DLI+S-FX-15+V1),系統學習如何利用 RAG 技術來增強對話機器人的交流能力。深入了解 RAG 技術的工作原理,以及它如何與大模型相結合,進而提升對話機器人的智能化水準。

◆ 學習利用 NIM 平台搭建與部署對話機器人:

參賽隊伍需利用所學知識,結合 NVIDIA 提供的 NIM 接口和 SDK 工具,自主搭建一個基于 RAG 技術的對話機器人。完成搭建後,參賽隊伍需将對話機器人部署到組委會提供的 Jetson NX 平台上。這一過程中,參賽隊伍需要確定機器人在該平台上的穩定運作。

◆ 對話界面的優化與創新功能添加:

在確定對話機器人基本功能正常運作的基礎上,參賽隊伍需要對對話界面進行優化,以提升使用者體驗。鼓勵參賽隊伍發揮創意,為對話機器人添加自定義的創新功能。這些功能可以是提升互動體驗的小工具、增加趣味性的元素,或是其他能夠提升對話機器人實用性和吸引力的設計。

◆ 項目展示與答辯:

在最終決賽中,參賽隊伍需要向評委和觀衆展示自己的項目成果。這包括對話機器人的功能示範、界面展示以及創新功能的介紹。參賽隊伍還需準備答辯環節,就項目的創新點、技術難點、實作過程等方面回答評委的問題,以展現自己對項目的深入了解和紮實的技術功底。

通過以上任務的完成,參賽隊伍不僅能夠掌握 RAG 技術和大模型的應用,還能在實踐中鍛煉自己的動手能力和創新思維,為未來的學習和職業發展打下堅實的基礎。

在此過程中,參賽隊伍将會實際體驗到:

◆ 建構可預測互動的 LLM 系統:

你将學會如何組合一個大語言模型(LLM)系統,該系統能夠通過利用内部和外部推理元件與使用者進行可預測的互動。這意味着你的系統将能夠了解使用者的意圖,并根據上下文提供連貫、準确的回應。

◆ 設計對話管理與文檔推理系統:

你将掌握如何設計一個對話管理和文檔推理系統,該系統能夠維護對話狀态,并将資訊強制轉換為結構化格式。這樣,你的對話機器人就能夠更好地了解使用者的需求,并在對話過程中保持一緻性,提供使用者所需的資訊。

◆ 利用嵌入模型進行高效相似度查詢:

你将了解如何利用嵌入模型進行高效的内容檢索和對話引導。通過這種方法,你的對話機器人能夠快速地找到與使用者問題最相關的内容,并在對話中提供有價值的參考資訊,進而提升使用者體驗。

◆ 實作、子產品化和評估 RAG 代理:

最後,你将學會如何實作、子產品化和評估一個基于檢索增強生成(RAG)技術的代理,該代理能夠在不進行任何微調的情況下回答其資料集中研究論文的相關問題。這将使你的對話機器人在處理專業領域的知識時更加準确和高效。

◆ 體驗 NVIDIA NIM 的便捷部署:

學習使用 NVIDIA NIM(NVIDIA Inference Microservices),這是一個經過優化的雲原生微服務。了解 NIM 如何将 AI 模型簡化為微服務,并通過容器化技術,實作模型的快速部署。

總的來說,通過參加本次大賽,你将獲得建構智能對話機器人的全面技能,從系統設計到實作、評估,再到優化,為你的職業發展或個人興趣打下堅實的基礎。

活動日程安排

活動形式:線上

活動安排:

第十屆 Sky Hackathon 邀請您組隊挑戰基于 RAG 建構智能對話機器人

參賽推理平台(由主辦方提供)

硬體平台:NVIDIA Jetson Xavier NX(8G Memory)

作業系統:Ubuntu 20.04 L4T 64 位元桌面版

開發環境:JetPack 5.1.3

教學環境:Jupyter Lab 2.2

同時為參賽隊伍提供真實的 Xavier NX 程式設計環境。

評分标準

實用性、行業價值、創新性(40%)

實用性(15%):解決方案是否能夠切實解決實際存在的問題或滿足實際行業需求。實用性強的方案将得到更高的評分。

行業價值(15%):方案是否具有潛在的商業價值或能夠顯著提升行業内的工作效率。行業影響力大、應用前景廣的方案将得分更高。

創新性(10%):方案在技術、方法或應用上的創新程度。獨特且創新的思路将得到更多分數。

作品完整性(30%)

基本功能實作(20%):是否完成了大賽要求的基本功能,如對話機器人的搭建、RAG 技術的內建等。每個基本功能的完整實作是評分的重點。

穩定性和可靠性(5%):作品在運作過程中是否穩定,是否容易出現錯誤或崩潰。穩定性和可靠性高的作品将得到更高的分數。

文檔和支援(5%):是否提供了清晰的使用說明、技術文檔或支援材料。完善的文檔和支援将提升作品的完整性評分。

調用的 NIM 數量及技術深度(30%)

NIM 接口調用(10%):根據參賽隊伍調用的 NIM 接口數量進行評分。成功融合多個 NIM 接口的作品将得到更高的分數。

技術融合與深度(20%):評價參賽隊伍如何将多種大模型技術合理融合到解決方案中,并評估技術實作的深度。技術融合度高且實作深入的作品将得分更高。

額外加分項

使用者界面優化/美化(+5%):如果作品的使用者界面進行了更深度的優化或美化,提供了更好的使用者體驗,可以酌情給予額外加分。加分的具體比例将根據優化的程度和效果進行評定,最高不超過總分的 5%。

注意:以上各項評分标準的比例可根據實際情況進行微調,以確定評分的公正性和合理性。同時,評委在評分時應綜合考慮作品的整體表現,而非僅關注單一方面。

賽事交流和答疑

本次 Hackathon 活動會提供專屬賽事交流微信群,所有符合參賽條件的團隊成員将被組委會人員邀請加入微信群。

NVIDIA 在開發者社群論壇會提供專屬賽事欄目:

關于參賽團隊隊長

每個參賽隊伍都需要指定隊長。

每個參賽隊伍之隊長須于活動期間代表該團隊負責比賽聯系及得獎獎品領取等相關事宜。團隊成員須自行配置設定團隊内部的各項權責歸屬,若有任何争執之處(如獎品領取方式與配置設定),主辦/執行機關不涉入處理。

Q & A

Q: 我能參加嗎?

Sky Hackathon 目前針對高校學生和開發者,當然有興趣參與的高中參賽隊伍也歡迎。一般不需要有 GPU 程式設計經驗,但是最好有一定 Python 和程式設計基礎;對深度學習、神經網絡有一定理論基礎。

Q: 如何報名?

Hackathon 精神就是團隊合作,每隊需要選出一名隊長,并為團隊起個名字。

所有團隊成員應單獨報名,并填寫團隊名稱。

每隊限 3 - 5 人。如果報名團隊多餘 5 人或者少于 3 人,我們将視為團隊無效。

Q: 有獎勵嗎?

一般來說,Sky Hackathon 是合作而不是競争。最好的獎品是代碼的新性能級别、與專家的相處時間、在 Jetson 平台上運作的能力以及難忘的體驗,這些都可能使您更接近一篇新的論文或演講。但是,我們确實會頒發一些象征性的獎品和參賽證書。

繼續閱讀