Black Ops se passa entre 1961 e 1968 durante a Guerra Fria, 16 anos após os eventos de World at War. Ele retrata uma história secreta das operações negras clandestinas da CIA realizadas atrás das linhas inimigas. Grande parte da campanha é contada pelos olhos do agente da SOG e da CIA, Alex Mason, principalmente por meio de flashbacks. Mason acorda amarrado a uma cadeira em uma sala cheia de monitores, bombardeado com perguntas de dois interrogadores desconhecidos sobre uma transmissão de números. Mason então relembra vários acontecimentos do passado na tentativa de responder suas dúvidas, estabelecendo as missões do jogo.
Call of Duty: Black Ops é o sétimo jogo principal de Call of Duty e a sequência de Call of Duty: World at War. O jogo difere da maioria das parcelas anteriores, que envolveriam uma campanha usual de três países, enquanto Call of Duty: Black Ops apresenta dois países jogáveis (Rússia e EUA), mas possui apenas uma campanha americana. Vários novos recursos também são introduzidos, como mergulho de bruços e o uso disponível de uma lanterna em certas armas. Além disso, os personagens jogáveis da campanha agora falam enquanto são controlados pelo jogador.