合肥工業大學作為一所致力于創新發展的高等學府，在教育教學、科研以及管理服務等領域對前沿技術有著強烈的需求。隨著人工智能技術的快速發展，開源的DeepSeek大模型憑借其卓越的技術實力和廣泛的應用前景，迅速吸引了眾多科研機構和高校的關注。學校希望通過本地化部署DeepSeek大模型，為全校師生提供高效的科研輔助工具，推動教學模式創新，提升教育質量。

新學期伊始，學校面臨在短時間內完成DeepSeek大模型部署的迫切任務，以確保師生能夠盡早使用這一先進技術。然而，傳統的技術獲取與部署方式存在諸多挑戰，例如：

• 部署流程復雜，技術實施難度高；
• 資源調配困難，難以滿足多機多卡的計算需求；
• 響應速度慢，難以在短時間內完成上線，尤其是服務全校師生時，從零開始部署難以滿足時間要求。

幸運的是，學校此前已部署了EaaS高性能計算云平臺，這一平臺為AI大模型的快速部署提供了有力支持，極大地簡化了技術實施的復雜性，為學校實現快速部署提供了技術保障。

• 自主可控的平臺：需要一個學校能夠自主管理和控制的計算環境，確保數據安全與隱私。
• 快速部署能力：支持DeepSeek等大模型的快速上線，縮短從需求提出到實際應用的時間。
• 高性能計算支持：提供靈活的計算資源調度，既能滿足模型訓練的高性能需求，又能支持高效的推理任務。
• 多樣化訪問：考慮到師生的不同使用習慣和場景，需要提供多種訪問調用方式，滿足不同用戶在不同環境下的使用需求。
• 靈活擴展性：具備良好的適應性，能夠隨著技術進步快速擴展功能，快速添加各類AI大模型。

• 快速部署與穩定運行：通過公司技術團隊的努力，1天完成 DeepSeek 系列大模型包括 DeepSeek R1 32B、70B 和 671B 等版本的本地化部署。經過一段時間的運行監測，系統穩定性良好，有效保障了師生的正常使用。
• 多樣化訪問滿足需求：提供網頁訪問、個人實例、公共集群三種調用方式。網頁訪問面向全校，簡單便捷，適合輕度使用用戶；公共集群支持多機多卡，可交互式訪問和API 接口調用，適合需要較大參數或對速度要求較高的用戶；個人實例支持網頁訪問、chatbox 訪問、API 接口調用，適合個人使用。全方位滿足了師生的多樣化使用需求。
• 靈活的資源分配：EaaS平臺支持彈性伸縮，用戶可以根據不同的AI模型和任務需求，動態調整計算資源，例如GPU、CPU和內存等。這種靈活性確保學校能夠快速響應新技術對計算能力的要求。當新的AI模型需要更高的算力時，學校無需采購新硬件，只需通過平臺即時分配相應資源即可。同時避免了傳統硬件資源閑置浪費的問題，降低了資源管理的復雜性。
• 數據安全保障：學校實現對數據的自主管理，確保數據安全與隱私，避免外部泄露風險，符合高校對數據隱私的高標準要求。
• 高可用性：通過分布式多機部署和API的智能負載均衡，確保API服務的高可用性和穩定性，滿足高并發請求。
• 降低 IT 運維成本：EaaS 平臺的集中化管理和運維特性，降低了學校 集群的運維成本。學校無需投入大量人力物力進行軟件更新，可以將更多資源投入到核心的教學和科研工作中。