當前位置：成都萬緯信息技術有限公司>>華三>>大數據/服務器>>H3C AIOS人工智能平臺

H3C AIOS人工智能平臺

返回列表頁

參考價

面議

具體成交價以合同協議為準

產品型號

品牌

廠商性質其他

所在地成都市

在線詢價收藏產品查看聯系電話

聯系方式：譚先生查看聯系方式

更新時間：2024-04-07 12:58:14瀏覽次數：272次

聯系我時，請告知來自智慧城市網

產品分類 品牌分類

  華三

新安防

云計算/超融合

大數據/服務器

無線安全

存儲

交換路由

智能數據中心網絡

全部產品列表

暫無信息

成都萬緯信息技術有限公司

經營模式：其他

商鋪產品：167條

所在地區：

聯系人：譚先生

詢價 給他留言

產品簡介

隨著AI科學計算的技術突破

詳細介紹

隨著AI科學計算的技術突破，人工智能已經廣泛應用于各行各業，如醫療、金融、汽車、法律、工業、教育等等，其中AI科學計算服務中心化也成為眾望所歸的選擇，雖然AI 深度學習目前的門檻有所降低，但是對于專業的數據科學家，依然是需要為了環境搭建，并行運算，分布式存儲，作業調度等基礎設施和服務耗費較多的人力和成本，為此，H3C AIOS人工智能平臺應運而生，提出軟硬件一體化方案，從基礎硬件的部署和軟件安裝，到交互式開發環境的一鍵啟動，從模型的深度訓練和調優，到多機多卡GPU作業靈活調度，H3C AIOS人工智能平臺，提供了十分簡潔的使用方式，實現了資源的整合/彈性擴容縮容和合理調度,同時也提供豐富的可自定義的軟件和鏡像和二次開發的API接口，可方便的集成進入原有SaaS平臺。
針對圖像處理、語音識別、自然語言處理等深度學習場景下，需要搭建大規模的GPU集群，針對不同的算法模型、不同的深度學習框架，用戶如何統一調度與管理GPU集群的計算資源、存儲資源，分配給不同的租戶使用，是需要解決的問題。
對于TensorFlow、Caffe、MxNet等深度學習框架，如何快速部署，提供開發鏡像環境，滿足不同用戶在不同場景下的框架需求、算法需求與開發需求，也是數據科學家難以逾越的一道門檻。
面對不同用戶同時進行模型訓練、在線推理，采用什么策略對各個任務進行調度，是搶占模式還是先出，以及每個訓練任務利用哪個GPU加速卡，每個卡的運行狀態如何，都需要統一的監控與管理。
針對以上問題，為用戶提供一體化的軟硬件部署和管理服務，減少系統安裝維護工作量；優化分布式訓練部署模型，實現多機多卡GPU資源與訓練作業靈活調度；提供豐富的可自定義軟件和鏡像庫，充分滿足客戶對AI計算環境的需求。
• 靈活的資源調度機制：提供強大的資源調度策略，以及資源實時監控，使企業可以有效、合理的使用各種計算資源。
• 完善的API接口服務：系統所有核心業務，都對外提供完善的API接口，用戶可以通過這些接口，實現人工智能平臺服務與用戶已有SaaS平臺的深度集成。
• 靈活的權限管理策略：系統通過對人員角色權限的劃分，以及資源的使用規劃，使得平臺中不同的用戶的計算資源都能很好的隔離，滿足企業對權限管理的各種要求。
• 豐富的性能監控服務：AIOS平臺提供完善的性能監控服務，能實時監控系統所有服務的健康狀況和硬件/網絡利用率情況，并針對各種日常運維工作，提供可視化的操作界面，提高系統運維管理者的工作效率。

特性及優勢

AIOS平臺為用戶提供了強大的全流程可視化管理平臺：交互學習平臺，集群管理平臺，性能監控平臺，審計平臺這四大模塊又同時對外提供豐富的接口組件，使得用戶既可以通過我們的平臺進行常規業務操作，又可以利用我們提供的接口組件，將核心服務集成到自己現有系統中。
AIOS平臺提供了一系列的函數庫，方便用戶在建模編寫腳本的過程中，快速調用這些函數而無需關心這些業務無關的技術細節；同時我們在系統不同功能模塊中，提供了不同的工作集，方便用戶在具體場景中快速操作。所有這些，都大大加速了用戶在開發人工智能解決方案時的速度。
統一的集群管理：負責整個系統計算資源的集中管理、統一分配與作業調度，包括GPU資源池的集中管理與分配、多租戶方式隔離計算資源、以作業方式動態分配計算資源以及計算資源回收等。
統一的監控運維：實時監控管理集群資源使用情況和集群狀態，包括作業狀態、GPU使用率、集群健康度等，并分析每一類的資源占用情況，提供觸發預警機制。
統一的開發環境：支持拖拽式和編碼式建模，提供一站式的交互開發操作界面，幫助用戶完成模型腳本在線編輯、模型訓練、模型驗證以及模型推理等核心功能，并結合硬件資源可視化、作業調度器，提高系統硬件資源的利用率。

產品功能特性

資源管理服務：系統提供完備的資源管理平臺，對所有計算資源進行集中管理，通過該平臺，可以實現對各類資源的狀態查詢以及相關維護操作。

任務流建模：任務流建模是整個建模過程的核心，用戶可以利用平臺提供的標準化組件進行無編碼式的建模，也可以通過平臺提供的各類框架運行組件，編寫自定義腳本進行建模訓練。

實時日志：用戶在訓練過程中，可以打開實時日志查看功能，實時查看訓練過程中輸出的日志。

在線腳本編輯服務：
平臺為了方便用戶更好更快速的修改自己的建模腳本，在任務流界面提供文件管理功能，方便用戶及時找到自己的腳本，并進行在線腳本編輯。

在線文件管理支持用戶瀏覽自己的整個文件空間，并支持圖像預覽、在線編輯編輯，全屏腳本編輯等操作。
在線推理服務
人工智能計算平臺模型訓練的目的是為了訓練出符合要求的模型，而在線預測才是讓模型產生價值的地方。平臺提供通用推理鏡像服務，支持將主流模型文件部署為在線服務，并提供統一的模型接入規范，支持多種模式格式。
同時，平臺在線推理服務支持推理接口的在線預測功能，以及模型推理服務的多實例部署。

系統構架

的前后臺分離架構

在以前傳統的網站開發中，前端一般扮演的只是切圖的工作，只是簡單地將UI設計師提供的原型圖實現成靜態的HTML頁面，而具體的頁面交互邏輯，比如與后臺的數據交互工作等，可能都是由后臺的開發人員來實現的，或者是前端是緊緊的耦合后臺。導致后臺的開發壓力大大增加，前后端工作分配不均。不僅僅開發效率慢，而且代碼難以維護。
AIOS采用的前后端分離架構，很好的解決前后端分工不均，開發過程相互依賴，bug難以定位等諸多問題。將更多的用戶交互邏輯由前端專職處理，而后端則可以專注于數據處理，業務權限控制等，前后端通過標準的restful接口實現數據交互。
后端專注于：服務層 & 數據訪問層 & 權限控制；
前端專注于：頁面展現（視圖層）& 交互邏輯；

的微服務架構

AIOS采用kubernetes+docker+rabbitmq的微服務架構模式，利用kubernetes實現高可用的集群環境，以及統一的資源調度，配合docker容器技術實現多租戶資源隔離，由rabbitmq實現分布式消息處理。為平臺展現層提供強大的內核支撐，平臺采用的微服務架構模式有以下特點：
· 服務高度自治，集中管理；
· 復雜業務得到拆分，易于維護；
· 高度靈活易于拓展；

靈活的多層級資源分配機制

平臺使用NFS（Network File System）實現統一的網絡文件存儲系統，極大簡化了平臺部署的復雜性，提高了公共文件資源的利用率。再結合linux多用戶多任務的系統特性，實現文件存儲資源的多租戶資源隔離。
平臺為了解決不同用戶群體在資源使用上的多樣性和特殊性，首先在集群的節點管理上提供分區管理功能，即將集群中的所有服務器節劃分為若干個區域；其次針對不同的用戶組織，由管理員進行服務器資源的統一分配，管理員可以根據實際的業務需求，針對不同的用戶群體進行靈活配置。
此外，為了有效提高計算資源使用的利用率，以及保障用戶使用資源的公平性，平臺針對計算資源以及各類業務運行時實例，提供了多層級資源分配限額機制。

多租戶存儲資源隔離

平臺基于GlusterFS（Gluster File System）實現統一的分布式網絡文件存儲系統，為用戶提供多租戶隔離的文件存儲服務，并利用GlusterFS的分布式特性，有效保障用戶數據的安全性。
平臺基于Docker Registry為用戶提供多租戶鏡像倉庫服務，即向用戶提供平臺常規業務所需要的各種內置運行時鏡像，又向用戶提供私有的鏡像倉庫服務，用戶可以上傳自己的鏡像，并在實際的開發、訓練以及推理中使用自己的鏡像。
平臺利用Kubernetes強大的作業編排能力，為用戶提供統一的計算資源調度，所有計算資源集群內共享，在用戶需要時，平臺根據用戶的資源需求動態創建運行時環境，運行結束即收回。這樣即保障了用戶資源的合理使用，又大大提高了集群資源的利用率。此外，利用了容器的隔離特性，有效保障用戶數據的安全。

強大的作業調度機制

AIOS平臺的核心是模型訓練，對CPU、內存、GPU等資源的合理使用要求非常高，通常這些計算設備造價不菲，計算資源的合理使用是體現一個計算平臺最重要的指標。平臺采用的kubernetes先天支持多種策略的作業調度，可以有效保證各類訓練任務的及時有效執行。再結合平臺提供的用戶資源申請分配機制，以及資源使用率告警機制，可以靈活有效的管理多租戶場景下，集群計算資源的統一合理調度。

完善的資源監控體系

Heapster是容器集群監控和性能分析工具，可以定時采集集群環境中所有節點的CPU、內存、網絡以及磁盤情況，平臺通過Heapster實現上述資源的統一采集及管理；而平臺自主研發的cMonitor則可以對GPU資源進行定時的采集及管理；結合平臺提供的計算資源告警機制，最終可以在平臺展現層實時監控集群環境下的所有資源，并及時向管理員發送告警信息，有效管理集群硬件資源，提高資源利用率。