Родился в Ростове-на-Дону в армянской семье. Несколько лет работал в геологической партии, с ней побывал в Казахстане, Украине и Краснодарском крае. Был инженером-методистом Севастопольского объединения «Атлантика», ходил на океаническом судне «Барограф». Первые очерки опубликовал в ростовской областной молодёжной газете «Комсомолец».
В 1973 году окончил Литературный институт им. А.М. Горького. Избирался членом Правления Ростовской областной писательской организации, долгое время работал там литконсультантом. Затем переехал в Москву, с 1991 по 2007 год заведовал отделом поэзии «Литературной России». Произведения Тер-Маркарьяна были переведены на армянский, болгарский, венгерский, польский,…
немецкий, вьетнамский, китайский, испанский, осетинский, калмыцкий, украинский и другие языки.
