Trong suốt cuối thế kỷ 19, trước khi có sự ra đời của các công ước quốc tế trong lĩnh vực sở hữu công nghiệp, việc bảo hộ các quyền sở hữu công nghiệp tại các quốc gia khác nhau trên thế giới là khó khăn vì luật pháp tại các nước này rất đa rạng. Hơn nữa, đơn yêu cầu cấp bằng độc quyền sáng chế phải được nộp đồng thời tại tất cả các quốc gia nhằm tránh hệ quả là việc công bố tại một quốc gia sẽ làm mất tính mới của sáng chế đó tại các quốc gia khác. Những vấn đề thực tiễn này đã thúc đẩy mong muốn khắc phục được các trở ngại đó.

Trong nửa cuối thế kỷ 19, sự phát triển của công nghệ theo xu hướng quốc tế hoá và sự tăng trưởng của thương mại quốc tế khiến cho việc hài hoà hoá pháp luật về sở hữu công nghiệp về cả lĩnh vực nhãn hiệu và sáng chế trở nên cấp thiết.

Khi Chính phủ hai nước Áo-Hungary mời các quốc gia khác tham dự một triển lãm quốc tế về sáng chế được tổ chức tại Viên năm 1873 thì một thực tế đã cản trở sự tham gia này là nhiều khách mời nước ngoài không sẵn sàng trưng bày các sáng chế của họ tại triển lãm đó do chưa có sự bảo hộ pháp lý thỏa đáng đối với các sáng chế được mang đến triển lãm đó.

Điều này dẫn đến hai xu hướng: thứ nhất, một luật đặc biệt của Áo bảo đảm sự bảo hộ tạm thời cho sáng chế, nhãn hiệu và kiểu dáng công nghiệp của tất cả những người nước ngoài tham gia triển lãm đó. Thứ hai, Hội nghị Viên về cải cách chế độ bảo hộ sáng chế đã được nhóm họp trong cùng năm đó, năm 1973. Hội nghị đã soạn thảo một số nguyên tắc là cơ sở cần có của một hệ thống sáng chế hữu ích và có hiệu quả và cũng đã thúc giục các chính phủ “phải tạo ra một thỏa thuận sơ bộ quốc tế về bảo hộ sáng chế càng sớm càng tốt”.

Tiếp theo Hội nghị Viên, một Hội nghị quốc tế về sở hữu công nghiệp đã được nhóm họp tại Pari năm 1878. Kết quả chính của hội nghị này là một quyết định rằng một trong số các chính phủ được yêu cầu phải triệu tập một hội nghị ngoại giao quốc tế “với nhiệm vụ là xác định cơ sở của một hệ thống pháp luật thống nhất” trong lĩnh vực sở hữu công nghiệp.

Sau hội nghị đó, bản dự thảo cuối cùng đề xuất thành một “hiệp hội” quốc tế về bảo hộ sở hữu công nghiệp đã được chuẩn bị tại pháp và đã được Chính phủ Pháp gửi tới nhiều quốc gia khác cùng với lời mời tham dự Hội nghị quốc tế vào năm 1880 tại Pari. Hội nghị quốc tế đó đã thông qua một bản dự thảo công ước mà về cơ bản bao gồm những quy định chủ yếu của Công ước Pari ngày nay.

Năm 1883, một Hội nghị ngoại giao mới được nhóm họp tại Pari, kết thúc bằng việc ký kết và thông qua lần cuối cùng Công ước Pari về bảo hộ sở hữu công nghiệp. Công ước Pari đã được 11 quốc gia tham gia ký kết: Bỉ, Bra-xin, El Sanvado, Pháp, Guatemala, Italia, Hà Lan, Bồ Đào Nha, Secbia, Tây Ban Nha và Thuỵ Sĩ. Khi Công ước có hiệu lực vào ngày 7 tháng 7 năm 1884 thì Vương quốc Anh, Tuynidi và Ecuado cũng đã tham gia Công ước, khiến số lượng thành viên ban đầu tăng lên thành 14. Chỉ trong vòng một phần tư đầu thế kỷ 20 và đặc biệt là sau Chiến tranh thế giới thứ II, số lượng thành viên của Công ước Pari đã tăng lên đáng kể.

Công ước Pari đã được sửa đổi nhiều lần từ sau khi được ký kết vào năm 1883. Mỗi một hội nghị sửa đổi, bắt đầu từ Hội nghị Brussel năm 1990, đều kết thúc bằng việc thông qua một Văn kiện sữa đổi của Công ước Pari. Trừ những văn kiện tại hội nghị sửa đổi Brussel (năm 1897 và 1900) và Washington D.C. (năm 1911) không có hiệu lực, tất cả những văn kiện trước đó vẫn có ý nghĩa, mặc dù phần lớn các quốc gia hiện nay đều là thành viên của văn kiện mới nhất, Văn kiện Stockholm năm 1967.