O projeto da produção de Homens de Preto 2 demorou 3 anos até sair do papel. O empecilho para a produção do filme eram os altos salários da dupla protagonista Tommy Lee Jones e Will Smith, do diretor Barry Sonnenfeld e ainda do produtor executivo Steven Spielberg. O filme apenas foi possível de ser realizado após todos os envolvidos realizarem acordos em que abriam mão de parte de seus salários em troca de porcentagens da bilheteria, o que fez com que a Columbia Pictures cedesse 50% dos lucros sobre o filme até a quantia de US$ 200 milhões arrecadados nas bilheterias mundiais.
Originalmente seria Famke Janssen a intérprete da personagem Serleena em Homens de Preto 2. Janssen chegou a gravar algumas cenas como a personagem, mas teve que deixar o projeto após o falecimento de um integrante de sua família.
Os atores David Duchovny e Christopher Walken chegaram a estar cotados para atuarem em Homens de Preto 2.
O cantor Michael Jackson faz uma pequena participação em Homens de Preto 2.
O final original de Homens de Preto 2 envolvia o World Trade Center, sendo que após os atentados terroristas de 11 de setembro de 2001, que derrubaram as torres do complexo, os produtores do filme optaram por substituí-lo pelo prédio da sede da Chrysler.
Precedido por Homens de Preto (1997) e seguido por Homens de Preto 3 (2012).