馬相伯因做神父，曾發誓終身不娶。可是他最小的五弟馬建忠去世了，如果馬相伯不結婚，馬家就將絕後了。那個時候社會奉行的還是“不孝有三，無後為大”的舊禮俗。所以馬相伯在濟南兵工廠（濰縣機械局）當督辦時結婚了，就此犯下了“彌天大錯”。
讀者可能有所不知，馬相伯到過羅馬，摸過教皇的戒指。因此懲罰措施有一條，叫他去羅馬向教皇承認錯誤，把他摸過教皇戒指的手指剝去外皮，還要求他到各國都會大教堂闡述“背教”理由。對於馬相伯來說，這是鍛鍊演講口才的好機會了。
與教會人員的爭執，正是因為理念的不同，道不同，不相為謀。教會還歧視中國教士，馬公在多次受挫後，決意退出教會。無疑，他被視為教會的叛逆者。從他的爭辯中，我們可以瞭解到，其待人和做事的“道”，是具體的而不是抽象的，是超越一般宗教桎梏的。
1881年，隨使日本任參贊時，他對文化與知識的理解是“無分國界”的公器。作為一位天才的雄辯家，當時就和日本高官同僚談及“人類文化，互相融會，無分國界，好像是光”這樣的豪言。
1883年自高麗回國後，就從事洋務新政活動，協助李鴻章對招商局財務進行的2年的調查，並建議闢九龍為商埠招商引資，修通鐵路。馬先生為幫助李中堂舉辦海軍，通過熟識的外商赴美借款。
1892年，清廷推行新政洋務無實效，馬相伯赴日本任長崎領事一年，後應梁啟超邀請擬主持籌備譯學館，因戊戌變法失敗而止。
儘管馬相伯人生的前半程為朝廷做事，效力國家，不算順利，不算成功，但從其外交格局之大氣，思想站位之高遠，足見他已經盡心盡力了。有時，甚至是“明知不可為而為之”，為了大義，不成功也無怨無悔。
1899年，馬公結束了官場的縱橫馳騁，退官回滬，歸隱徐匯，潛心於天文度數的研究和譯著，助其弟馬建忠著《馬氏文通》。
對於大多數人來說，60歲退休是常態。而對於馬公，這種退隱只是暫時狀態，這使他有時間和心力，去醞釀和開啟人生更精彩的“下半場”。
