Data science

Phần mềm trí tuệ nhân tạo doanh nghiệp của Nvidia Now GA

Sau nhiều tháng phát hành sớm, Nvidia hôm nay đã công bố tính khả dụng chung của Nvidia AI Enterprise, một phần mềm cung cấp phần mềm mới được thiết kế để mang các khả năng AI đến với đại chúng thông qua vSphere của VMware. Thông báo cũng bao gồm việc xác nhận trước về AI Enterprise chạy trên một số máy chủ X 64 tiêu chuẩn công nghiệp (tất nhiên được trang bị GPU), cũng như quan hệ đối tác với Domino Data Phòng thí nghiệm cho MLOps. Manuvir Das, người đứng đầu mảng điện toán doanh nghiệp của Nvidia cho biết: “AI là có thật và nó có giá trị thực. Das biết đó là sự thật vì Nvidia đã giúp hàng nghìn khách hàng triển khai AI vào hoạt động của họ. Tuy nhiên, AI cũng đã được chứng minh là khó thực hiện, ông nói. “Và lý do là bởi vì, một mặt, đó là một vấn đề đầu cuối, từ việc thu thập dữ liệu đến đào tạo để sản xuất các mô hình và sau đó triển khai các mô hình đó vào sản xuất,” Das nói. “Nhưng đó cũng là một vấn đề toàn ngăn xếp, từ trên xuống dưới, bởi vì bạn phải suy nghĩ về phần cứng, phần mềm, các khuôn khổ để giúp dễ dàng triển khai AI, cũng như một hệ sinh thái gồm các ISV có thể sử dụng AI và đưa nó vào tay khách hàng, ”anh ta tiếp tục. Nvidia hy vọng sẽ hợp lý hóa việc áp dụng AI với cung cấp Enterprise AI mới của mình (nguồn ảnh Nvidia) Nói tóm lại, đó là lý do tại sao Nvidia phát triển AI Enterprise. Hiện có sẵn dưới dạng bản phát hành 1.0, AI Enterprise là một bộ công cụ, công cụ, công nghệ và khuôn khổ được thiết kế để giúp các công ty đưa các khả năng AI vào tay khách hàng dễ dàng hơn. Theo Das, bản thân AI Enterprise có ba yếu tố chính. Đầu tiên, nó bao gồm bộ công cụ phát triển phần mềm RAPIDS (SDK), cung cấp khoa học dữ liệu tăng tốc trên GPU. Thứ hai, Nvidia đã cho phép các khung công tác học máy phổ biến như TensorFlow và PyTorch chạy trên GPU. Thứ ba, AI Enterprise bao gồm một công cụ suy luận được gọi là Triton được thiết kế để triển khai các mô hình trong sản xuất. “Tất cả những điều đó lần đầu tiên được đóng gói cùng nhau ở cấp doanh nghiệp, được hỗ trợ đầy đủ, được chứng nhận, thường có sẵn cho tất cả khách hàng trên toàn thế giới,” Das nói. Nvidia bắt đầu làm việc với VMware khoảng một năm trước, Das nói. Bằng cách chạy AI Enterprise trên đỉnh Vmware vSphere, được Das gọi là “hệ điều hành defacto” của trung tâm doanh nghiệp, nó hạ thấp mức cản trở để khách hàng doanh nghiệp bắt đầu áp dụng AI. “Hầu hết mọi quản trị viên CNTT trên thế giới đều quen thuộc với VMware vSphere và cách triển khai nó,” Das nói. “Điều này về cơ bản là nó tạo ra cho khách hàng doanh nghiệp một nền tảng mà họ có thể sử dụng, thay vì phải xây dựng.” Khách hàng tiềm năng có một loạt các máy chủ được chứng nhận mà họ có thể chọn để chạy AI Enterprise và vSphere. Có các hệ thống tăng tốc GPU, 1U và 2U của Dell, HPE, Lenovo và nhiều OEM khác đã được chứng nhận để chạy phần mềm. Das cho biết, ý tưởng là đưa máy tính tăng tốc AI đến cùng các máy chủ mà khách hàng đang sử dụng để chạy các ứng dụng dòng kinh doanh (LOB) của họ, chẳng hạn như nguồn nhân lực hoặc ứng dụng ERP. Điều này giúp hạ thấp giới hạn của AI doanh nghiệp hơn nữa, ông nói. Nvidia AI Enterprise được chứng nhận trước để chạy trên vSphere chạy trên các máy chủ tiêu chuẩn công nghiệp của Dell, HPE, v.v. “Các máy chủ tương tự đã được xếp và xếp chồng lên các đám mây và trung tâm dữ liệu riêng ngày nay có thể được sử dụng cho AI, với Das nói. Các máy chủ được chứng nhận để chạy nhiều loại GPU từ Nvidia, bao gồm A 100, A 30, A 40 và A 10. Nvidia cũng tiết lộ mối quan hệ hợp tác với Domino Data Lab, nơi phát triển phần mềm được thiết kế để truyền tải quy trình làm việc khoa học dữ liệu. Theo Das, Domino Data Lab đáp ứng nhu cầu tự động hóa các hoạt động học máy khác nhau, hay còn gọi là MLops. Theo Das, cách mà AI thường được thực hiện là các nhà nghiên cứu trong R&D liên tục điều chỉnh các mô hình của họ. Họ đang đào tạo lại họ hàng ngày và triển khai chúng thường xuyên với hy vọng cải thiện khả năng dự đoán của họ “Không đủ tốt cho CNTT doanh nghiệp,” Das nói. “Domino Data Lab có một hệ thống end-to-end giải quyết vấn đề đó. Nó cho khả năng tái tạo của cùng một quá trình huấn luyện so với cùng một tập dữ liệu. Nó có nhiều khả năng khác nhau để quản trị, nhờ đó CNTT có thể hiểu được các mô hình đến từ đâu, những mô hình nào nên được triển khai ở đâu ”. Khách hàng có thể triển khai AI Enterprise trên VMware vSphere và nhận được những lợi ích được mô tả ở trên. Giờ đây, họ cũng có tùy chọn để thêm Domino Data Lab vào hỗn hợp, để có được khả năng hiển thị tốt hơn vào quy trình làm việc đầu cuối, ông nói. Các mục liên quan: AI Hypervisor được GPU Boost Nvidia mở cửa cho các hội thảo học sâu Một mô hình để thống trị Tất cả: Transformer Networks Usher in AI 2.0, Forrester Says

Back to top button