Голдман родился в Бруклине в 1921 году в семье эмигрировавших из России евреев. Он окончил университет "Иешива" и Университет Пенсильвании, где получил степень доктора философии по физике. Он специализировался на явлении магнетизма.

После окончания учебы Голдман работал в энергетической компании Westinghouse и преподавал в Университете Карнеги-Меллона, а в 1955 году начал работу в Ford, где руководил исследовательской лабораторией.

Из Ford Голдман перешел в компанию Xerox, производившую офисные копировальные аппараты. Xerox задалась целью создать исследовательский центр, где разрабатывались бы технологии для "офиса будущего". В 1970 году такой центр под названием Xerox PARC был создан под руководством Голдмана.

Разработки Xerox PARC активно используются и в настоящее время. В их число входят лазерный принтер, технология передачи данных Ethernet, текстовой редактор Bravo - первый редактор, сделанный по принципу WYSIWYG ("What You See Is What You Get", "Что видишь, то и получаешь"), а также графический интерфейс пользователя со всплывающими меню, "окнами", иконками и курсором.

Коммерческое воплощение графический интерфейс впервые нашел в персональных компьютерах 1980-х годов, включая продукты Apple и ПК под управлением Windows, AmigaOS и других систем. Согласно версии, озвученной в фильме 1999 года "Пираты Силиконовой долины" и в других источниках, Apple "позаимствовала" графический интерфейс у Xerox PARC, а Microsoft - у Apple.

После ухода на пенсию Голдман проживал в городе Уэстпорт, штат Коннектикут, и изредка выступал в роли частного инвестора.