由于香港属于普通法法律体系，而内地实行的法律体系与大陆法系渊源较深，因此两地法律有着明显不同，特别是在公证制度上的差异更大。[ 香港律师见证程序规则 ]
香港沿用英国的公证制度，而普通法系的英国没有"公证人"这专门职业。由于实行判例法，所以也没有统一的公证法律，公证人可由律师或其它执业者担任。在执业范围上很狭窄，通常只能见证当事人宣誓或签名，在可能的情况下辨别文件的真伪，一般不对文件内容的真实合法性负责。但由于这种形式的公证人历史悠久，业务国际性而非地区性，并且他们的名字及签名式样都在大部份领事馆及有关法院登记，所以又称为"国际公证人"。而内地的公证制度基本沿用大陆法系的公证制度，比较健全，公证事务由公证处承担，公证员独立办证，业务包括证明法律行为、有法律意义的事实和文书。办理公证事务可以进行调查，要对证明内容的真实性、合法性负责。
以上差异决定了香港与内地公证书的相互使用上的特殊性。1981年之前，香港居民回内地处理有关法律事务，只能通过一些内地驻港机构(如华润公司、中国旅行社等)和香港当地的一些社团组识(如中华总商会、港九工会联合会等)办理相关的证明文件。
自80年代初，中国实行改革开放政策，两地往来更为活跃，其中不少涉及民事法律事务需及时解决，以维护两地当事人的合法权益。于是中华人民共和国司法部透过当时中国政府的代表机构 - 新华社香港分社(现称中央人民政府驻香港特别行政区联络办公室)统战部(现称协调部)与香港一些律师接触，考虑委托香港一些法律界人仕为香港同胞出具回内地处理民事法律事务有法律效力的公证文书。
由于当时尚是试行性质，因此司法部在1981年首次委托时只委托了8位对中国事务较有认知的律师负责为香港居民办理回内地处理法律事务的证明文书，后来这些律师成为『委托公证人』。
