马相伯因做神父，曾发誓终身不娶。可是他最小的五弟马建忠去世了，如果马相伯不结婚，马家就将绝后了。那个时候社会奉行的还是“不孝有三，无后为大”的旧礼俗。所以马相伯在济南兵工厂（潍县机械局）当督办时结婚了，就此犯下了“弥天大错”。
读者可能有所不知，马相伯到过罗马，摸过教皇的戒指。因此惩罚措施有一条，叫他去罗马向教皇承认错误，把他摸过教皇戒指的手指剥去外皮，还要求他到各国都会大教堂阐述“背教”理由。对于马相伯来说，这是锻炼演讲口才的好机会了。
与教会人员的争执，正是因为理念的不同，道不同，不相为谋。教会还歧视中国教士，马公在多次受挫后，决意退出教会。无疑，他被视为教会的叛逆者。从他的争辩中，我们可以了解到，其待人和做事的“道”，是具体的而不是抽象的，是超越一般宗教桎梏的。
1881年，随使日本任参赞时，他对文化与知识的理解是“无分国界”的公器。作为一位天才的雄辩家，当时就和日本高官同僚谈及“人类文化，互相融会，无分国界，好像是光”这样的豪言。
1883年自高丽回国后，就从事洋务新政活动，协助李鸿章对招商局财务进行的2年的调查，并建议辟九龙为商埠招商引资，修通铁路。马先生为帮助李中堂举办海军，通过熟识的外商赴美借款。
1892年，清廷推行新政洋务无实效，马相伯赴日本任长崎领事一年，后应梁启超邀请拟主持筹备译学馆，因戊戌变法失败而止。
尽管马相伯人生的前半程为朝廷做事，效力国家，不算顺利，不算成功，但从其外交格局之大气，思想站位之高远，足见他已经尽心尽力了。有时，甚至是“明知不可为而为之”，为了大义，不成功也无怨无悔。
1899年，马公结束了官场的纵横驰骋，退官回沪，归隐徐汇，潜心于天文度数的研究和译著，助其弟马建忠著《马氏文通》。
对于大多数人来说，60岁退休是常态。而对于马公，这种退隐只是暂时状态，这使他有时间和心力，去酝酿和开启人生更精彩的“下半场”。