在很久以前古人就会潜水了。因没有任何保护工具，潜水时间都不长，屏住呼吸可以潜入几米水深的地方呆上2--3分钟，能做的事不是太多，只是为了捕捉鱼虾、寻找宝物和战争中的一种“出其不意”的战术等。
在《尚书》的《禹贡》篇中记载了“淮夷”向夏禹王朝进贡珍珠，这可能是我国有关“潜水采珠”的最早记载。《周南·汉广》、《庄子·达生》分别记载了长江、黄河流域古人潜水操练的情况。直至宋代钱塘江两岸的人们仍然保持着“弄潮”的习俗。
春秋时期，潜水还被称为“没水”，这种活动在吴越地区最为常见。公元前478年春，吴、越两国之间发生战争，越军先派遣一部分训练有素的士兵潜水过江，偷袭吴国驻地。同时叫步卒连夜鼓噪佯攻配合。越军潜水至对岸，吴军哨兵没有发现，越军从水中冒出杀死吴军步哨，蜂拥而至进击中军帐。大军紧接泅水过江，吴军措手不及顷间瓦解。越国征讨吴国成功地运用了潜水战术，这是我国潜水用于战争最早的记载。
秦代潜水已经相当普及了，据《史记》记载公元前219年，秦始皇出巡彭城曾派数千名善游者到泗水潜水探摸周代沉没的宝鼎，结果一无所获。
唐代据《通幽记》记载，一名叫周邯的文人从彝人手里买来个小奴约十四五岁，善于潜水，能在水里待上一天也不会叫苦，周邯称其为“水精”。并带他从四川沿长江而下，来到水深流急的长江三峡。三峡险峻过往沉船很多，沉落江底金银财宝无数，因小奴潜水技术高超，给主人带来很多财富。
公元1272年，南宋、元开战。南宋军被围，就在襄阳招募两潜水勇士，将蜡封密信交给他们，令其速潜水至郢(今湖北省江陵北）求援。元军早有准备，增兵把守水路封锁数十里。但两勇士水性极好，能浮水中数日不食，在水中遇到桩子即锯断，终到达郢地。郢驻军将军见信，即发兵五千合击元军。
到了明代出现了简单的潜水工具，潜水技术有了较大的改进，。明崇祯十年（1637年），宋应星所著的《天工开物·珠玉》中记载潜水采珠的情况。潜水人用长绳栓在腰上，再用锡做的环形空管罩在鼻子上，携篮下水，当在水下感觉憋气和危险时就拉动绳子，水面上的人马上将其提出水面。
我国古人潜技十分了得，还有不少的创造发明，为人类的潜水发展做出了贡献。
