66b, hay gọi đầy đủ là 66 tỷ tham số, là một khối lượng tham số của một mô hình ngôn ngữ lớn. Thuật ngữ này được dùng để mô tả cấu trúc mạng có khả năng xử lý ngôn ngữ tự nhiên ở mức cao. Mô hình 66b có khả năng vừa nắm bắt ngữ nghĩa vừa học từ dữ liệu lớn, giúp sinh ra văn bản, tóm tắt và trả lời câu hỏi một cách tự động.

Nguồn gốc của 66b bắt nguồn từ ý tưởng mở rộng kích thước tham số để tăng khả năng biểu diễn và hiểu ngôn ngữ. Các kỹ thuật như tiền huấn luyện trên tập dữ liệu rộng lớn và fine-tuning trên tập nhiệm vụ cụ thể đã được áp dụng. Kích thước càng lớn, mô hình có thể nắm bắt ngữ cảnh tốt hơn, mặc dù cần hạ thấp chi phí tính toán và quản lý rủi ro.

Trong thực tế, 66b được áp dụng cho các tác vụ như sinh văn bản, tóm tắt nội dung, trả lời câu hỏi và dịch máy. Tuy vậy, kích thước lớn cũng đặt ra thách thức về hiệu năng, chi phí, và quản lý rủi ro như sai lệch thông tin. Việc tối ưu hoá và triển khai cần cân nhắc đạo đức và bền vững.
