Ông cũng là nhà văn quốc ngữ tiền phong cộng tác với Gia Định báo. Tác phẩm quan trọng trong văn nghiệp của ông rất có giá trị, đó là quyển Đại Nam Quốc Âm Tự Vị, in thành 2 tập, tập I in năm 1895 từ mẫu tự A đến L, tập II in năm 1896 từ M đến X, cả hai quyển đều in tại Sàigòn do nhà in Imprimerie REY, CURIOL & Cie, Rues Catinat & d"Ormay. Năm 1983, nhà sách Khai Trí có in lại 2 tập của quyển tự vị nầy.

Là tự vị quốc âm nên mỗi chữ ông ghi chữ Nôm rồi tới chữ quốc ngữ có ký chú n: nôm, c: chữ (từ Hán Việt), sau đó mới giải nghĩa, nếu là từ Hán Việt, đôi khi ông thêm câu chữ Hán vào, ví dụ : chữ Quấc trang 217 tập II .

(Chữ Nôm) Quấc n (Coi chữ quốc)

Con ---. Thứ chim đồng cao giò và hay kêu,

chữ gọi là (Đỗ)(Quyên), (Đỗ)( Võ),(Tử)(Qui)

Đỗ quiên, đỗ võ, tử qui.

Dò --- . Dài giò

Cách hành văn của ông rất mộc mạc và bình dân, cho đến nay chưa tìm thấy tác phẩm nào ông viết bằng Pháp Văn, các tác phẩm của ông cho chúng ta thấy, ông đã chú trọng vào việc điển chế và phổ biến chữ quốc ngữ.

Văn nghiệp của ông gồm có :

- Chuyện giải buồn (1880)
- Chuyện giải buồn, cuốn sau (1885)
- Đại Nam Quấc Âm Tự Vị, Tập I (1895)
- Đại Nam Quấc Âm Tự Vị, Tập II (1896)
- Tục ngữ, cỗ ngữ, gia ngôn (1896)
- Gia lễ quan chế
- Ca trù thể cách
- Bạch Viên Tôn Các truyện
- Chiêu quân cống Hồ truyện
- Thoại Khanh Châu Tuấn truyện
- Thơ mẹ dạy con
- Quan Âm diễn ca