Музей был основан в 1989 году в Ленинграде в знаменитом Фонтанном доме, где Ахматова провела почти три десятилетия своей жизни. Активная работа по созданию музея началась благодаря инициативе ленинградской интеллигенции.