Mẹ của Mourinho, bà Maria dos Santos, một giáo viên tiểu học nổi tiếng ở Setubal, xuất thân từ một gia đình có đặc quyền. Chú của bà, ông Mario Ledo, là một trong những nhà cung cấp cá mòi chủ yếu hàng đầu của Bồ Đào Nha - có cơ sở ở Setubal, Porto và Algarve. Ledo cũng là một trong những người đàn ông giàu có nhất Setubal. Ông thậm chí còn cung cấp đất và tài trợ cho việc xây dựng SVĐ Bonfim vào năm 1962. Ledo cũng cung cấp tài chính cho nhà Mourinho.

Tuy nhiên, vào năm 1972, chú Ledo qua đời và công việc kinh doanh của ông bị nhà nước tịch thu. Song song với sự kiện chưa từng có về việc một thị trưởng cánh tả lên nắm quyền ở Setubal, gia đình Mourinho đã bị rung chuyển. Họ bị mất nhà cùng với người giúp việc và buộc phải chuyển đến một ngôi nhà nhỏ hơn. 

Mourinho kể lại: “Từ thời thơ ấu, tôi đã có những người bạn thuộc tầng lớp thượng lưu trong xã hội và sau đó là đám bạn con nhà nghèo. Điều này khiến tôi sẵn sàng cho mọi thứ trong cuộc sống và biết cách cùng tồn tại, sống và hòa hợp với mọi người. Đó là thời điểm có nhiều thay đổi ở Bồ Đào Nha. Đó là một trải nghiệm sống rất tích cực đã chuẩn bị cho tôi cả cuộc đời.”

Thay vì sân bóng hay sân trường, lớp học đóng vai trò quan trọng trong việc hình thành nên Mourinho. Khi mới 3 tuổi, Mourinho đã bị thu hút bởi thói quen buổi sáng của chị gái 7 tuổi, Teresa là đồng phục đi học và bữa trưa cho em. 

Trên thực tế, giáo dục đã hình thành nên khát khao chủ nghĩa hoàn hảo từ rất sớm của Mourinho và ngay từ khi mới 5 tuổi, ông đã có tất cả bút, bút màu và thước kẻ được sắp xếp và đựng một cách hoàn hảo trong túi xách. Mặc dù điều này có vẻ không quá lộ liễu hay mang tính tiên tri, nhưng rất ít đứa trẻ 5 tuổi nào có khả năng thể hiện một cách nhất quán những loại kỹ năng tổ chức và quản lý này.

Tuy nhiên, với tình yêu bóng đá của Mourinho, chính là ông bố Felix - mặc dù thường xuyên có những chuyến đi xa với Vitoria và sau đó là CL Belenenses - là người có ảnh hưởng sâu sắc nhất đến Mourinho. Mourinho tiếp thu mọi thứ về bóng đá từ cha mình và cậu bé Mourinho 3 tuổi không thể nguôi ngoai sau khi Anh loại Bồ Đào Nha của Eusebio ra khỏi vòng tứ kết World Cup 1966.

Ngay từ khi mới 4 tuổi, Mourinho đã là cậu bé nhặt bóng trên sân tập đằng sau khung thành của Felix trong các buổi tập của Vitoria. Phấn khởi, Felix tin rằng Mourinho có thể tiếp bước ông và tiếp tục di sản Mourinho trong bóng đá Bồ Đào Nha. Mourinho đã sớm bắt đầu mối tình với giải VĐQG Anh với tư cách là CđV thời thơ ấu của Liverpool, thần tượng Kevin Keegan và Kenny Dalglish. 

Việc mở rộng tầm nhìn của Mourinho khi ông lớn lên chỉ làm tăng thêm nỗi ám ảnh của ông với bóng đá và trong khi Felix sớm nhận ra rằng Mourinho sẽ không chơi ở đẳng cấp cao nhất, ông đã tìm thấy những việc khác cho con trai ngoài nhiệm vụ nhặt bóng. Mourinho bắt đầu đồng hành cùng Felix trong những chuyến du đấu khi sự nghiệp cầu thủ của ông sắp kết thúc.

Sau khi có bằng HLV với tư cách là HLV trưởng của đội Estrela Portalegre vào năm 1976, Felix đã dành nhiều buổi tối thứ Hai để nói chuyện với ông con Mourinho về tầm quan trọng của việc thay người. Đó là truyền thống đã được duy trì với Mourinho và con trai ông, Jose Mário Jr, trong những năm qua.

Tại Rio Ave, Felix yêu cầu một Mourinho 19 tuổi lập hồ sơ trinh sát, quản lý đội U16 và chuyển lời nhắn tới các cầu thủ trong các trận đấu. Mặc dù Felix hiếm khi cho Mourinho chọn cầu thủ thi đấu nhưng Mourinho chắc chắn đã góp phần vào thành công mang tính đột phá của Felix. Rio Ave đã giành được vị trí thứ Năm vào mùa giải 1981/82 (thành tích cao nhất), và Mourinho là một nhân vật nổi tiếng trong phòng thay đồ. 

Tuy nhiên, chủ tịch lúc đó của Rio Ave, José Maria Pinho, tin rằng chủ nghĩa gia đình trị đang xuất hiện và thậm chí còn cấm Mourinho xuất hiện trong trận đấu cuối mùa giải với nhà vô địch Sporting Lisbon ở mùa đó. Rio Ave thua trận với tỷ số 7-0 và tình tiết này đóng vai trò quan trọng trong quyết định rời đến Belenenses của Felix vào mùa hè năm đó.

Vì vậy, trong khi Mourinho theo Felix đến Belenenses như một cầu thủ dự bị, đóng góp của ông ở hậu trường còn đáng chú ý hơn. Nó tạo nên dấu ấn trong sự nghiệp thi đấu của Mourinho: chỉ ra sân 94 lần ở vị trí tiền vệ trung tâm trong 7 mùa giải cho Rio Ave, Belenenses, Sesimbra và Comercio e Industria. Ông dần thoát khỏi cái bóng của người cha.

Tại CLB Sesimbra ở giải hạng Ba, Mourinho nổi bật với tư cách là một trong những thủ lĩnh của đội. Được đồng đội gọi là Ze, Mourinho có thiên hướng không ngừng giao tiếp với trọng tài trên sân. Tuy nhiên, xung đột trong phòng họp và một đội hình mất động lực, do việc trả lương bị trì hoãn nghiêm trọng, đã cản trở bất kỳ cơ hội nào mà Mourinho có được để nếm trải thành công trên danh nghĩa trong những năm đáng lẽ phải là giai đoạn phát triển then chốt của ông từ 1983 đến 1985.

CLB cuối cùng của Mourinho là Comercio e Industria ở giải hạng Nhất, ông có mối quan hệ bền chặt nhất với các đồng đội của mình. Ở tuổi 22, Mourinho đã phát triển mạnh mẽ trong làng bóng đá nghiệp dư.