Con chip tiết kiệm năng lượng thể hiện các khối xây dựng quan trọng của kiến trúc tín hiệu hỗn hợp có thể mở rộng.
–
Chúng ta mới chỉ bắt đầu một cuộc cách mạng của AI và điều đó sẽ định hình lại cách mà chúng ta sống và làm việc. Đặc biệt, mạng lưới thần kinh sâu (DNN – Deep Neural Network) đã cách mạng hóa lĩnh vực AI và ngày càng nổi bật với sự ra đời của các mô hình nền tảng và AI tổng quát. Nhưng việc chạy các mô hình này trên các kiến trúc máy tính kỹ thuật số truyền thống sẽ hạn chế hiệu suất và hiệu suất năng lượng có thể đạt được của chúng. Đã có tiến bộ trong việc phát triển phần cứng dành riêng cho suy luận AI, nhưng nhiều kiến trúc trong số này phân chia vật lý bộ nhớ và đơn vị xử lý. Điều này có nghĩa là các mô hình AI thường được lưu trữ ở một vị trí bộ nhớ riêng biệt và các tác vụ tính toán yêu cầu liên tục xáo trộn dữ liệu giữa bộ nhớ và các đơn vị xử lý. Quá trình này sẽ làm chậm quá trình tính toán và giới hạn hiệu suất năng lượng tối đa có thể đạt được.
IBM Research đang nghiên cứu các cách để phát minh lại cách mà AI được tính toán. Điện toán trong bộ nhớ Analog, hay đơn giản là AI Analog, là một cách tiếp cận đầy hứa hẹn để giải quyết thách thức bằng cách vay mượn các đặc điểm chính về cách các mạng thần kinh vận hành trong bộ não sinh học. Trong bộ não của chúng ta và của nhiều loài động vật khác, sức mạnh của các khớp thần kinh (là “trọng số” trong trường hợp này) quyết định sự giao tiếp giữa các nơ-ron. Đối với các hệ thống AI Analog, IBM Research lưu trữ cục bộ các trọng số khớp thần kinh này trong các giá trị độ dẫn của các thiết bị bộ nhớ điện trở có kích thước nano như bộ nhớ thay đổi pha (PCM – phase-change memory) và thực hiện các hoạt động tích lũy nhân (MAC – multiply accumulate), hoạt động tính toán chiếm ưu thế trong mạng lưới thần kinh sâu bằng cách khai thác các định luật mạch và giảm thiểu nhu cầu liên tục gửi dữ liệu giữa bộ nhớ và bộ xử lý.
(Bộ nhớ thay đổi pha (PCM) hoạt động khi một xung điện được áp vào vật liệu, làm thay đổi độ dẫn điện của thiết bị. Vật liệu chuyển đổi giữa các pha vô định hình và pha tinh thể, trong đó xung điện thấp hơn sẽ làm cho thiết bị trở nên tinh thể hơn, tạo ra ít điện trở hơn và xung điện cao hơn sẽ làm cho thiết bị trở nên vô định hình hơn, dẫn đến nhiều điện trở hơn. Thay vì ghi lại các số 0 hoặc 1 thông thường mà bạn thấy trong các hệ thống kỹ thuật số, thiết bị PCM ghi lại trạng thái của nó dưới dạng một chuỗi các giá trị liên tục giữa trạng thái vô định hình và trạng thái kết tinh. Giá trị này được gọi là trọng số khớp thần kinh, có thể được lưu trữ trong cấu hình nguyên tử vật lý của mỗi PCM. Bộ nhớ không thay đổi, vì vậy các trọng số được giữ lại khi tắt nguồn điện.)
Để biến khái niệm AI Analog thành hiện thực, cần phải vượt qua hai thách thức chính:
- Các mảng bộ nhớ này cần có khả năng tính toán với mức độ chính xác ngang bằng với các hệ thống kỹ thuật số hiện có.
- Chúng cần có khả năng giao tiếp liền mạch với các đơn vị tính toán kỹ thuật số khác, cũng như kết cấu giao tiếp kỹ thuật số trên chip AI Analog.
Trong một bài báo được xuất bản trên Nature Electronics, IBM Research đã thực hiện một bước quan trọng trong việc giải quyết những thách thức này bằng cách giới thiệu chip AI Analog tín hiệu hỗn hợp, tiên tiến nhất để chạy nhiều tác vụ suy luận DNN. Đây là chip analog đầu tiên đã được thử nghiệm để có thể xử lý các tác vụ AI thị giác máy tính thành thạo như các đối tác kỹ thuật số, đồng thời tiết kiệm năng lượng hơn một cách đáng kể.
–
Con chip này được chế tạo trong IBM’s Albany NanoTech Complex, và nó bao gồm 64 lõi điện toán trong bộ nhớ analog (hoặc các ô xếp), mỗi ô chứa một mảng 256 x 256 thanh ngang của các ô đơn vị khớp thần kinh. Bộ chuyển đổi dựa trên thời gian từ analog sang kỹ thuật số nhỏ gọn được tích hợp trong mỗi ô để chuyển đổi giữa thế giới analog và kỹ thuật số.
Mỗi ô có thể thực hiện các tính toán được liên kết với một lớp của mô hình DNN. Các trọng số khớp thần kinh được mã hóa thành các giá trị độ dẫn tương tự của thiết bị PCM. Một đơn vị xử lý kỹ thuật số toàn cầu được tích hợp ở giữa chip để thực hiện các hoạt động phức tạp hơn, điều đó rất quan trọng để thực hiện một số loại mạng nơ-ron nhất định. Con chip này cũng có các đường truyền thông kỹ thuật số tại các điểm kết nối chip của tất cả các ô và bộ xử lý kỹ thuật số toàn cầu.
Bằng cách sử dụng chip này, IBM Research đã thực hiện nghiên cứu toàn diện nhất về độ chính xác điện toán của điện toán analog trong bộ nhớ và chứng minh độ chính xác là 92,81% trên bộ dữ liệu hình ảnh CIFAR-10. IBM Research tin rằng đây là mức độ chính xác cao nhất so với bất kỳ con chip nào được báo cáo hiện nay sử dụng công nghệ tương tự. Trong bài báo, IBM Research cũng chỉ ra cách họ có thể kết hợp nhuần nhuyễn điện toán analog trong bộ nhớ với một số đơn vị xử lý kỹ thuật số và kết cấu truyền thông kỹ thuật số. Thông lượng đo được trên mỗi khu vực đối với phép nhân ma trận đầu vào – đầu ra 8-bit là 400 GOPS/mm2 của chip cao hơn 15 lần so với các chip điện toán trong bộ nhớ đa lõi dựa trên bộ nhớ điện trở trước đó, đồng thời đạt được hiệu suất năng lượng tương đương.
(Giga hoạt động mỗi giây (GOPS) theo khu vực là một chỉ số tiêu chuẩn để mô tả hiệu quả điện toán trong đó các hoạt động điện toán thô được chuẩn hóa bởi một khu vực điện toán đồng thời. Về cơ bản, nó cho thấy rằng có nhiều hoạt động hơn cho một khu vực nhất định, nghĩa là con chip này là một công cụ tính toán hiệu quả hơn.)
Bằng cách kết hợp các bộ chuyển đổi analog sang kỹ thuật số (ADC – Analog-to-Digital Converter) tiết kiệm diện tích và năng lượng, tính toán-tích lũy nhân tuyến tính cao và các khối tính toán kỹ thuật số có khả năng của chip 64 khối này với truyền dữ liệu song song lớn mà IBM Research đã thể hiện trong chip 34 ô vuông được trình bày tại hội nghị chuyên đề IEEE VLSI vào năm 2021, giờ đây họ đã thể hiện nhiều khối xây dựng cần thiết để hiện thực hóa tầm nhìn kiến trúc cho chip tăng tốc suy luận AI Analog công suất thấp, nhanh.
Sử dụng kiến thức của mình, IBM Research đã thiết kế một kiến trúc máy gia tốc như thế này đã được xuất bản vào đầu năm nay trong IEEE Transactions trên các hệ thống VLSI. Tầm nhìn của họ kết hợp nhiều ô điện toán trong bộ nhớ analog với sự kết hợp của các lõi điện toán kỹ thuật số, có mục đích đặc biệt được kết nối với lưới 2D song song lớn. Cùng với chương trình đào tạo nâng cao nhận thức về phần cứng tinh vi mà họ đã phát triển trong những năm gần đây, IBM Research hy vọng những máy gia tốc này sẽ mang lại độ chính xác tương đương với phần mềm của mạng thần kinh trên nhiều mô hình khác nhau trong những năm tới.
Vina Aspire là công ty tư vấn, cung cấp các giải pháp, dịch vụ CNTT, An ninh mạng, bảo mật & an toàn thông tin tại Việt Nam. Đội ngũ của Vina Aspire gồm những chuyên gia, cộng tác viên giỏi, có trình độ, kinh nghiệm và uy tín cùng các nhà đầu tư, đối tác lớn trong và ngoài nước chung tay xây dựng.
Các Doanh nghiệp, tổ chức có nhu cầu liên hệ Công ty Vina Aspire theo thông tin sau:
Email: info@vina-aspire.com | Website: www.vina-aspire.com
Tel: +84 944 004 666 | Fax: +84 28 3535 0668
Vina Aspire – Vững bảo mật, trọn niềm tin
