AIDI – thế hệ mới của hạ tầng hệ thống dành cho ứng dụng AI

Hiện tại có thể thấy rằng AI chắc chắn là xu hướng sẽ được ứng dụng phổ biến trong tương lai và sẽ có ảnh hưởng tới xu hướng phát triển hạ tầng điện toán đám mây, tất nhiên các công nghệ mới liên quan đến Cloud và giải pháp AI cũng sẽ bùng nổ, và AIDI (AI Defined Infrastructure) – hạ tầng định nghĩa bởi AI  cũng sẽ là một trong số đó. Bài viết này sẽ tâp trung giới thiệu các công nghệ, công cụ liên quan để hình thành nên một AIDI.

Các ứng dụng Mobile và IoT hầu như chỉ yêu cầu về môi trường hạ tầng đảm bảo tốt về môi trường runtime và phần quan trọng nhất nằm ở phía backend, phải cung cấp các service phù hợp cho các ứng dụng này. Ngược lại, các ứng dụng AI không chỉ cần các dịch vụ backend phức tạp, môi trường Runtime cần phải được tối ưu hoá rất nhiều để có thể phù hợp với các yêu cầu điều kiện về GPU cho các giải pháp về AI, do phải xử lý các tác vụ với cycle thời gian rất ngắn. Các ứng dụng tối ưu GPU có nhiệm vụ phân bố các task cần nhiều CPU cho GPU xử lý và để các task “nhẹ nhàng” cho CPU đảm nhiệm. Khi làm được như vậy, việc xử lý của cả ứng dụng sẽ được tăng lên rất nhanh.

Điểm lợi thế của GPU so với CPU là nằm ở kiến trúc hoàn toàn khác nhau. 1 CPU được thiết kế cho việc xử lý các serial data và chỉ có 1 vài core. Trong khi với GPU, có kiến trúc hàng loạt các core nhỏ hoạt động song song nhiều task vụ hơn cùng lúc. NVIDIA cho biết, throughput của ứng dụng thông qua GPU cao hơn từ 10 đến 100 lần so với CPU. Do đó, một hạ tầng khi triển khai cho các deep learning framework như TensorFlow và Torch, với nhu cầu hàng trăm, hàng ngàn node phải được cấu hình tối ưu CPU/GPU ngay từ đầu.

Đáp ứng các yêu cầu về hạ tầng hệ thống để hỗ trợ ứng dụng AI:

  • Hỗ trợ framework hiện tại: Hạ tầng cần phải hỗ trợ các ứng dụng AI trên nền framework như TensorFlow, Caffe, Theano và Torch.
  • Môi trường tối ưu GPU: một hệ thống tốt cần phải đảm bảo mọi tác vụ AI đều phải được thực hiện. Do đó phải hỗ trợ môi trường GPU để cung cấp tối đa sức mạnh tính toán. Microsoft là công ty đã tiên phong trong lĩnh vực này bằng việc gioi71 thiệu N-series GPU instances.
  • Các công cụ và môi trường quản lý: một trong những thách thức khi vận hành các ứng dụng AI là chúng ta còn thiếu các công cụ quản lý các framework AI. Nên vậy, việc tìm ra giải pháp cho giao thức giao tiếp giữa AI framework và hạ tầng bên dưới là thật sự cần thiết, để đảm bảo sự cân bằng và duy trì performance tuyệt đối.

  • Dịch vụ tích hợp hạ tầng cho AI: Các nhà cung cấp hạ tầng phần cứng phải có và không chỉ hỗ trợ AI, còn phải cung cấp thêm cả những dịch vụ tích hợp AI, xem đây như là phần trung tâm của combo hạ tầng và dịch vụ. Và chúng ta cũng có thể xem đây như là AI-denfined Infrastructure – hạ tầng được định nghĩa (xây dựng) cho AI, sẽ không chỉ giúp các dịch vụ và ứng dụng cloud trở nên “thông minh” hơn, mà còn dễ dàng cho khách hàng setup và vận hành hạ tầng dành cho AI.
  • Machine Reasoning: Xin chúc mừng các doanh nghiệp được nhà cung cấp hạ tầng hỗ trợ công nghệ Machine Reasoning. Nếu được vận hành trong môi trường Machine Reasoning, các ứng dụng AI sẽ rất linh động trong việc đáp ứng với việc môi trường/hạ tầng bị thay đổi. Đảm bảo AI sẽ lựa chọn “kiến thức” tốt nhất để đưa ra hành động đối phó

Môi trường hạ tầng và công nghệ cho AI

Những năm qua, thế giới đã đầu tư rất nhiều vào các dịch vụ và tính năng cho AI. Trong đó dẫn đầu là các ông lớn như Amazon, Microsoft và Google; bên cạnh đó là công sức của các PaaS đầu tư vào cung cấp các dịch vụ AI liên quan. Công nghệ AI hiện tại được chia thành 3 catalogue chính như sau:

  • Cloud Machine learning (ML) platform: Các công nghệ như AWS Machine Learning hoặc Google Machine Learning giúp hiện thực hoá việc sử dụng các model machine learning dựa trên từng công nghệ phù hợp.

  • AI Cloud Services: Các dịch vụ như Microsoft Cognitive Services, Google Cloud Vision hoặc Natual Languahe APIs cho phép sử dụng nhiều ứng dụng của AI một cách đơn giản thông qua việc gọi API. Chính điều này đã giúp cách doanh nghiệp phát triển các ứng dụng có tích hợp AI mà không cần phải tốn nhiều chi phí đầu tư hoặc sở hữu các hạ tầng dành cho AI.
  • Công nghệ dành cho môi trường Private và Public cloud: HIRO là công nghệ được thiết kế để chạy trên nền các môi trường Public Cloud như AWS hoặc Private Cloud như OpenStack và VMware. HIRO được sinh ra để giúp việc phát triển và vận hành “AI-based business models based on general AI”

Trong quá trình xây dựng hạ tầng AIDI, doanh nghiệp cần tìm hiểu các công cụ và dịch vụ phù hợp với ứng dụng mình mong muốn triển khai. Xin giới thiệu các nhà cung cấp AI và dịch vụ liên quan:

  • Machine learning: Rapidminer, Context Relevant, H20, Datarpm, LiftIngniter, Spark Beyond, Yhat, Wise.io, Sense, GraphLab, Alpine, Nutonian
  • Conversational AI/bots: Mindfield, SemanticMachines, Maluuba, Mobvoi, KITT AI, Clara, Automat, Wit.ai, Cortical.io, Idibon, Luminoso
  • Vision: Clarifai, Chronocam, Orbital Insight, Pilot.ai, Captricity, Crokstyle
  • Auto: NuTonomy, Drive.ai, AI Motive, Nauto, Nexar, Zoox
  • Robotics: Ubtech, Anki, Rokid, Dispatch
  • Cybersecurity: Cyclance, Sift Science, Spark Cognition, Deep Instict, Shift Technology, Dark Trace
  • BI & analytics: DataRobot, Trifaca, Tamr, Esigopt, Paxata, Dataminr, CrowdFlower, Logz.io
  • Ad, sales and CRM: TalkIQ, Deepgram, Persado, Appier, Chors, InsideSales.com, Drawbridge, DigitalGenius, Resci
  • Healthcare: Freenome, Cloud Medx, Zebra, Enlitic, Two AR, iCarbonX, Atomwise, Deep Genomics, Babylon, Lunit
  • Text analysis: Textio, Fido.ai, Narrative
  • IoT: Nanit, Konux, Verdigris, Sight Machine
  • Commerce: Bloomreach, Mode.ai
  • Fintech & insurance: Cape Analytics, Kensho, Numerai, Alphasense, Kasisto

 

Share this

Leave a reply