Công Tôn Thắng là người nhìn ra sự tài đức, trung nghĩa của Tống Giang nhưng cũng là người đầu tiên nhìn ra việc Tống Giang sẽ sớm quy thuận triều đình, khiến nhiều anh hùng ở Lương Sơn phải bỏ mạng. Công Tôn Thắng chọn rời bỏ Lương Sơn và Tống Giang khi đang ở đỉnh cao và có cái kết viên mãn nhất trong số 108 vị anh hùng Lương Sơn Bạc.

Công Tôn Thắng có tên hiệu là Nhập Vân Long (rồng luồn mây). Ông xuất hiện trong Thủy hử từ sự kiện đi cướp sinh thần cương (lễ vật mừng thọ) của Lương Trung Thư tặng cha vợ là thái sư Thái Kinh (hoặc Sái Kinh) cùng các huynh đệ như Triều Cái (hoặc Tiều Cái).

Lễ vật sinh thần mà Lương Trung Thư biếu cha vợ  chủ yếu là vàng bạc châu báu có giá hàng nghìn lượng. Sau khi cướp được số vàng bạc này, cả nhóm Công Tôn Thắng, Tiều Cái, Bạch Thắng.... buộc phải trốn lên Lương Sơn vì bị quan quân triều đình truy đuổi.

Sau khi đến Lương Sơn, Triều Cái nhận chức vụ Trại chủ Lương Sơn, là người đứng đầu. Trong khi đó, Công Tôn Thắng đảm nhận chức vụ quân sư, ngồi ở vị trí thứ ba ở Lương Sơn. Vốn là đạo sĩ ở trên núi, võ nghệ của Công Tôn Thắng rất cao cường, có thể sánh với Dương Chí.

Khi Tống Giang chưa tới Lương Sơn, Triều Cái lúc bấy giờ là người đứng đầu và có quyền lực tuyệt đối. Tuy nhiên, mọi chuyện dần thay đổi khi Tống Giang gia nhập Lương Sơn. Sau khi Triều Cái qua đời vì bị trúng tên của Sử Văn Cung trong trận chiến ở chợ Tăng Đầu thị, Tống Giang trở thành trại chủ.

Tống Giang ghi thù khi bị viên quan thông phán Hoàng Văn Bính đề nghị xử chết. Sau khi được quân Lương Sơn giải cứu, Tống Giang đã giết cả nhà họ Hoàng và đốt cháy toàn bộ cơ ngơi. Thực tế, lúc này Công Tôn Thắng đã khuyên Tống Giang nhưng Tống vẫn khăng khăng giết sạch cả nhà kẻ thù. Thông qua sự việc này, Công Tôn Thắng cảm thấy Tống Giang là người hành động nông nổi, thiếu hiểu biết và không có cái nhìn xa cho tương lai của Lương Sơn.

Từ khi Tống Giang đến Lương Sơn, với sự giúp đỡ từ những mối quan hệ cũ của Triều Cái, cộng với danh tiếng ông đã nhanh chóng tạo dựng được chỗ đứng ở Lương Sơn và trở thành người chỉ huy tuyệt đối. Mọi trận đánh của các anh hùng ở Lương Sơn, đều phải nghe lệnh Tống Giang. Lúc này, Công Tôn Thắng đã nhìn rõ tham vọng làm quan của Tống Giang nhưng vì không muốn phá hỏng tình đoàn kết của anh em Lương Sơn, Công Tôn Thắng lựa chọn ra đi.

Công Tôn Thắng rời Lương Sơn với danh nghĩa về quê chăm sóc mẹ. Sau này, Tống Giang vì mang nặng tư tưởng trung quân ái quốc nên đã sai thả Cao Cầu và xin được về quy thuận triều đình - đúng như những gì Công Tôn Thắng dự đoán. Thậm chí, 108 anh hùng ở Lương Sơn Bạc vì nghe lời Tống quy thuận triều đình để rồi cuối cùng bị gian thần tiêu diệt. Những sự kiện sau này đã chứng minh quyết định này của Công Tôn Thắng là vô cùng đúng đắn.

Sau khi Công Tôn Thắng rời khỏi Lương Sơn, ông sống cuộc đời rất vui vẻ, nhàn nhã, uống rượu ngâm thơ mỗi ngày. Sau này, ông đi phiêu bạt giang hồ, truyền đạo cho Phàn Thụy, Chu Vũ, cả ba cùng vân du, tu tiên sống đời an nhàn.