Алексей Васильевич Ганзен родился 2 февраля 1876 в Одессе в семье действительного статского советника Вильгельма Львовича Ганзена и второй дочери выдающегося художника И. К. Айвазовского Марии Ивановны Айвазовской. В детстве часто бывал в феодосийской мастерской деда, увлекся морскими пейзажами и сценами морских сражений. Первоначальное художественное образование получил под руководством Айвазовского. Учился во 2-й Одесской прогимназии, затем в Ришельевской гимназии в Одессе. В 1900 окончил юридический факультет Новороссийского университета. Параллельно посещал занятия в Одесской художественной школе, после окончания которой переехал в Петербург.
В 1898–1904 принимал участие в выставках Товарищества южнорусских художников в Одессе и Весенних выставках в залах Академии художеств. В 1904–1905 создал ряд произведений на тему Русско-японской войны: «Гибель броненосца “Петропавловск”», «Ночная атака и отражение миноносцев», «Броненосный крейсер “Адмирал Макаров”» и другие.
В 1900 уехал в Германию, где продолжил свое образование в Берлинской Академии художеств у К. Зальцмана, Г. Мейера, затем в Мюнхенской Академии у Э. Брэхта. Окончил Дрезденскую Академию изящных искусств. Совершил путешествия по Франции, Италии, Голландии, Швеции. В Париже занимался живописью под руководством Э. Робер-Флери и Ж. Лефевра. Экспонировал свои работы в Осеннем салоне и салоне Французских художников. Провел персональную выставку в парижской галерее «Современные художники».
В России бывал наездами. С 1907 участвовал в выставках Общества русских акварелистов. В 1909 сопровождал императора Николая II в поездке в Крым и на Кавказ. В 1910 переехал в Одессу. Выступил с инициативой создания художественного музея в Одессе, на который выделил собственные средства. С 1914 жил в Петербурге, а летние месяцы проводил в имении Роман-Эли в Старом Крыму, где написал множество пейзажей маслом, акварелью, сепией, гуашью. Обращался к гравюре.
Произведения Ганзена на темы событий Первой мировой войны публиковались в журналах «Огонек», «Нива», «Солнце России», «Летопись войны». В 1915 выполнил по заказу российского правительства большое полотно «Бой “Святой Евгении” с “Гебеном”», которое в том же году было представлено на выставке «Война» в Петрограде. Годом позже вышел альбом акварелей Ганзена «Российский императорский флот», который сопровождался краткими историческими сведениями.
В 1917 был выдвинут на звание академика вместе с И. Я. Билибиным, З. Е. Серебряковой, С. Т. Коненковым, но голосование, назначенное на октябрь, не состоялось из-за революционных событий. В 1917–1919 жил в Одессе, где участвовал в выставках Товарищества южнорусских художников и Первой Народной выставке картин, плакатов и вывесок.
В 1920 эмигрировал. Проехав Турцию и Грецию, остановился в Королевстве Югославия. В 1928 в Риме и в 1929 в Париже (галерея «Пти») состоялись персональные выставки Ганзена.
Похоронен на православном кладбище в Дубровнике.
Творческое наследие художника необычайно велико: им было выполнено около 3 000 живописных полотен, множество рисунков и этюдов.
