Trong bản ghi nhớ gửi nhân viên hồi tháng 8, Giám đốc nghiên cứu Mark Chen cho biết nhóm Model Behavior (nhóm nghiên cứu hành vi mô hình, chuyên định hình “tính cách” và cách AI phản hồi người dùng) gồm khoảng 14 nhà nghiên cứu sẽ được sáp nhập vào Post Training - bộ phận lớn hơn phụ trách cải thiện các mô hình AI sau giai đoạn huấn luyện ban đầu. Sau sự thay đổi này, nhóm sẽ báo cáo trực tiếp cho Max Schwarzer, trưởng nhóm Post Training.

Người sáng lập Model Behavior - Joanne Jang, sẽ rời vị trí hiện tại để xây dựng một đơn vị nghiên cứu mới mang tên OAI Labs. Trong cuộc phỏng vấn với TechCrunch, Jang cho biết OAI Labs sẽ tập trung vào việc sáng tạo và thử nghiệm các giao diện mới nhằm tăng cường sự cộng tác giữa con người và AI.

Trước khi thành lập Model Behavior, Jang từng tham gia phát triển nhiều dự án quan trọng của OpenAI như công cụ tạo ảnh Dall-E 2. Cô đã gắn bó gần bốn năm với công ty. Theo chia sẻ, OAI Labs hiện trực thuộc Mark Chen và vẫn đang trong giai đoạn định hình định hướng cụ thể.

Model Behavior được coi là một trong những nhóm nghiên cứu quan trọng của OpenAI. Nhóm này chịu trách nhiệm xây dựng tính cách cho các mô hình AI, đồng thời hạn chế hiện tượng “nịnh hót”, khi AI chỉ đồng tình với người dùng kể cả trong những niềm tin sai lệch. Nhóm cũng nghiên cứu về định kiến chính trị trong phản hồi của mô hình và góp phần giúp OpenAI xác định lập trường về vấn đề nhận thức của AI.

Trong bản ghi nhớ, Chen nhấn mạnh rằng đã đến lúc đưa công việc của Model Behavior gắn liền hơn với quá trình phát triển mô hình cốt lõi, bởi cá tính của AI hiện được coi là một yếu tố quan trọng trong sự tiến hóa của công nghệ này.

Việc tái cấu trúc Model Behavior và sự ra đời của OAI Labs cho thấy OpenAI đang đặt nhiều kỳ vọng vào việc định hình tính cách và hành vi của các mô hình AI ngay trong quá trình phát triển cốt lõi. Bằng cách này, công ty không chỉ củng cố năng lực nghiên cứu nội bộ mà còn mở rộng không gian sáng tạo, hướng tới việc xây dựng những giao diện mới giúp con người cộng tác với AI một cách tự nhiên và hiệu quả hơn.