Mình hay nhắc đến Ollama và trước cũng từng dùng Ollama để thử nghiệm mấy mô hình be bé. Mới đây bài viết có tiêu đề Friends Don't Let Friends Use Ollama đã nêu ra lý do tại sao không nên sử dụng Ollama nữa. Thật sự là không ngờ rằng có nhiều lý do đến như thế. Sau khi đọc xong, thấy ngoài việc họ khá "chùy" trong việc ghi thêm nguồn llama.cpp - vốn là động cơ chính để chạy các mô hình ngôn ngữ lớn thì còn một lý do cũng đáng lo ngại nữa là dịch vụ Cloud thiếu tính minh bạch.
À mới đây cũng có vụ khai thác lỗ hổng tràn bộ nhớ nữa cũng nguy hiểm phết 🫣