Policarpo nasceu no ano de 69, na cidade de Esmirna, cidade do sudoeste da atual Turquia, situada na Região do Egeu. Seus pais eram cristãos e segundo o testemunho de Santo Irineu, que o ouviu discursar quando jovem, foi discípulo do apóstolo João.
Nomeado bispo de Esmirna na virada do século (cerca do ano 100), desempenhou as funções de seu ministério durante cinquenta anos.
Em 154 foi a Roma para discutir com o Bispo de Roma, Aniceto, a data oficial da Páscoa, que já era um assunto de tensão entre cristãos do Oriente e do Ocidente. Não conseguiram chegar a um acordo, mas mantiveram boas relações.
Policarpo combateu numerosas seitas que ele julgava heréticas, particularmente os gnósticos e notadamente os Marcionitas.
Hospedou Inácio de Antioquia quando este passou por sua cidade a caminho do martírio em Roma. Os dois bispos se tornaram amigos e Inácio escreveu para ele, de Troas, uma carta de agradecimento pela acolhida e pedindo que enviasse missionários para fortificar sua comunidade na fé cristã. É graças a Policarpo que foram conservadas as sete cartas de Inácio, pois ele as fez circular nas comunidades da Ásia Menor. Quando surgiu a perseguição comandada pelo imperador e filósofo Marco Aurélio, Policarpo já estava em idade avançada. Após ser interrogado pelo representante do imperador foi condenado a ser queimado vivo numa data desconhecida, próxima do ano 155.
Em sua Carta a Florino, Santo Irineu de Lion, reconhece que foi dele que recebeu sua fé, que era proveniente da tradição joanina.
A única obra, atribuída a Policarpo, que sobreviveu aos nossos dias é a Epístola de Policarpo aos Filipenses enviada em 110. Ela é um mosaico de referências às Escrituras e foi preservada no relato de Santo Irineu sobre a vida do bispo de Esmirna. Trata-se de um trecho de seu “Martírio”, e tem a forma de carta circular da Igreja de Esmirna para as demais igrejas da província do Ponto. Juntamente com os Atos dos Apóstolos, que contém o relato do martírio de Santo Estevão, o “Martírio de Policarpo” é considerado como sendo um dos relatos mais antigos e genuínos de martírios cristãos, e um dos poucos relatos sobreviventes, compostos à época das perseguições.