Hệ thống máy học (machine learning) cho phép các nhà phát triển cải thiện hiệu quả tính toán trong một loạt các ứng dụng.
Các nhà nghiên cứu MIT đã phát minh ra một công cụ máy học dự đoán các chip máy tính sẽ thực thi mã nhanh như thế nào từ các ứng dụng khác nhau.
Để có được mã chạy nhanh nhất có thể, các nhà phát triển và trình biên dịch - các chương trình dịch ngôn ngữ lập trình thành mã có thể đọc được bằng máy - thường sử dụng các mô hình hiệu suất chạy mã thông qua mô phỏng các kiến trúc chip đã cho.
Trình biên dịch sử dụng thông tin đó để tự động tối ưu hóa mã và các nhà phát triển sử dụng nó để giải quyết các tắc nghẽn hiệu suất trên các bộ vi xử lý sẽ chạy nó. Nhưng các mô hình hiệu suất cho mã máy được viết tay bởi một nhóm các chuyên gia tương đối nhỏ và không được xác nhận hợp lệ. Do đó, các phép đo hiệu suất mô phỏng thường đi chệch khỏi kết quả thực tế.
Trong một loạt các tài liệu hội nghị, các nhà nghiên cứu mô tả một đường ống máy học mới lạ tự động hóa quá trình này, làm cho nó dễ dàng hơn, nhanh hơn và chính xác hơn. Trong bài báo trình bày tại Hội nghị quốc tế về học máy vào tháng 6, các nhà nghiên cứu đã trình bày Ithemal, một mô hình mạng lưới thần kinh, đào tạo dữ liệu được dán nhãn dưới dạng “khối cơ bản” - đoạn trích cơ bản của các hướng dẫn điện toán - để tự động dự đoán thời gian bao lâu mất một con chip nhất định để thực hiện các khối cơ bản chưa từng thấy trước đó. Kết quả cho thấy Ithemal thực hiện chính xác hơn nhiều so với các mô hình điều chỉnh tay truyền thống.
Sau đó, tại Hội nghị chuyên đề quốc tế về tháng 11 về đặc tính khối lượng công việc, các nhà nghiên cứu đã trình bày một bộ điểm chuẩn gồm các khối cơ bản từ nhiều lĩnh vực khác nhau, bao gồm học máy, trình biên dịch, mật mã và đồ họa có thể được sử dụng để xác nhận các mô hình hiệu suất. Họ đã gộp hơn 300.000 khối được định hình thành một bộ dữ liệu nguồn mở có tên BHive. Trong các đánh giá của họ, Ithemal đã dự đoán các chip Intel sẽ chạy mã nhanh như thế nào thậm chí còn tốt hơn một mô hình hiệu suất do chính Intel chế tạo.
Cuối cùng, các nhà phát triển và trình biên dịch có thể sử dụng công cụ này để tạo mã chạy nhanh hơn và hiệu quả hơn với số lượng ngày càng tăng của các thiết kế chip “hộp đen” đa dạng và trực tuyến. “Bộ xử lý máy tính hiện đại mờ đục, vô cùng phức tạp và khó hiểu. Việc viết mã máy tính thực thi nhanh nhất có thể cho các bộ xử lý này là một thử thách vô cùng lớn”, đồng tác giả Michael Carbin, một giáo sư trợ lý tại Khoa Kỹ thuật Điện và Khoa học Máy tính (EECS) cũng là một thử thách vô cùng khó khăn để viết mã máy tính. Phòng thí nghiệm trí tuệ nhân tạo (CSAIL). “Công cụ này là một bước tiến lớn hướng tới việc mô hình hóa hoàn toàn hiệu suất của các chip này để cải thiện hiệu quả”.
Gần đây nhất, trong một bài báo được trình bày tại hội nghị NeurIPS vào tháng 12, nhóm đã đề xuất một kỹ thuật mới để tự động tạo ra tối ưu hóa trình biên dịch. Cụ thể, họ tự động tạo ra một thuật toán, được gọi là Vemal, chuyển đổi một số mã nhất định thành các vectơ, có thể được sử dụng cho tính toán song song. Vemal vượt trội hơn các thuật toán vector hóa thủ công được sử dụng trong trình biên dịch LLVM - một trình biên dịch phổ biến được sử dụng trong ngành.
Học từ dữ liệu
Việc thiết kế các mô hình hiệu suất bằng tay có thể là “một nghệ thuật đen”, Carbin nói. Intel cung cấp tài liệu mở rộng gồm hơn 3.000 trang mô tả các kiến trúc chip của mình. Nhưng hiện tại chỉ tồn tại một nhóm nhỏ các chuyên gia sẽ xây dựng các mô hình hiệu suất mô phỏng việc thực thi mã trên các kiến trúc đó.
“Các tài liệu của Intel không có lỗi cũng như không hoàn chỉnh và Intel sẽ bỏ qua một số thứ nhất định, bởi vì nó thuộc sở hữu độc quyền”, theo Mend Mendis. “Tuy nhiên, khi bạn sử dụng dữ liệu, bạn không cần phải biết tài liệu. Nếu có một cái gì đó bị ẩn đi bạn có thể tìm hiểu nó trực tiếp từ dữ liệu”.
Để làm như vậy, các nhà nghiên cứu đã theo dõi số chu kỳ trung bình mà một bộ vi xử lý đã đưa ra để tính toán các hướng dẫn khối cơ bản - về cơ bản, trình tự khởi động, thực thi và tắt - mà không cần sự can thiệp của con người. Tự động hóa quy trình cho phép lập hồ sơ nhanh chóng hàng trăm nghìn hoặc hàng triệu khối.
Kiến trúc tên miền cụ thể
Trong đào tạo, mô hình Ithemal phân tích hàng triệu khối cơ bản được định hình tự động để tìm hiểu chính xác cách các kiến trúc chip khác nhau sẽ thực hiện tính toán. Điều quan trọng, Ithemal lấy văn bản thô làm đầu vào và không yêu cầu thêm tính năng thủ công vào dữ liệu đầu vào. Trong thử nghiệm, Ithemal có thể được cung cấp các khối cơ bản chưa từng thấy trước đó và một con chip nhất định và sẽ tạo ra một số duy nhất cho biết con chip sẽ thực thi mã đó nhanh như thế nào.
Các nhà nghiên cứu đã thấy Ithemal cắt giảm tỷ lệ lỗi chính xác - có nghĩa là sự khác biệt giữa tốc độ dự đoán so với tốc độ trong thế giới thực - bằng 50% so với các mô hình thủ công truyền thống. Hơn nữa, trong bài báo tiếp theo, họ đã chỉ ra rằng tỷ lệ lỗi Ithemal trên 10%, trong khi tỷ lệ lỗi mô hình dự đoán hiệu suất Intel là 20% trên nhiều khối cơ bản trên nhiều miền khác nhau.
Giờ đây, công cụ giúp cho việc học hiệu suất tốc độ trở nên nhanh hơn cho bất kỳ cấu trúc chip mới nào, Mendis nói. Chẳng hạn, các kiến trúc dành riêng cho tên miền, chẳng hạn như Đơn vị xử lý kéo căng mới của Google, được sử dụng riêng cho các mạng thần kinh, hiện đang được xây dựng nhưng chưa được hiểu rõ rộng rãi. Nếu bạn muốn đào tạo một mô hình trên một số kiến trúc mới, bạn chỉ cần thu thập thêm dữ liệu từ kiến trúc đó, chạy nó qua trình hồ sơ của chúng tôi, sử dụng thông tin đó để đào tạo Ithemal và bây giờ bạn có một mô hình dự đoán hiệu suất, ông Mend Mendis nói.
Tiếp theo, các nhà nghiên cứu đang nghiên cứu các phương pháp để làm cho các mô hình có thể hiểu được. Phần lớn máy học là một hộp đen, vì vậy, nó không thực sự rõ ràng tại sao một mô hình cụ thể lại đưa ra dự đoán của mình. “Mô hình của chúng tôi đang nói rằng nó cần một bộ xử lý, giả sử, 10 chu kỳ để thực thi một khối cơ bản. Bây giờ, chúng tôi đang cố gắng tìm ra lý do tại sao”, Car Carbin nói. “Một mức độ chi tiết cao sẽ rất tuyệt vời đối với các loại công cụ này”.
Họ cũng hy vọng sẽ sử dụng Ithemal để nâng cao hiệu suất của Vemal hơn nữa và tự động đạt được hiệu suất tốt hơn.