需要到法院进行变更。协议公证法律效力不高，可以让女方到当地的法院起诉要求变更孩子的抚养权。这样的民事诉讼也就是50元的诉讼费。只要男方也答应把孩子的抚养权变更到女方名下，这样都不用法院判，只要走调解的路，法院会就新的主张出具一份关于孩子抚养权的调解书，然后双方签字就可以了。

　　民事诉讼一般要遵循“谁主张，谁举证”的原则。提起变更抚养关系纠纷诉讼的一方必然要承担起大部分的举证责任，如果一方认为与子女共同生活的另一方存在法律上认可的变更抚养关系的情况，应当从以下方面着手展开收集证据：

　　1、到对方的工作单位，请求工作单位出具相关的证明材料以证明其收入及工作变动情况，如对方属于国家公职人员，一般其工资是可以查询确定的；

　　2、与对方的邻居、朋友处请求其出具对方长期不良嗜好的证明，或者请求其出具对方未尽到抚养义务、虐待子女的说明；

　　3、如经常变更居住地，可向对方租房的房屋所有权人了解其签订租赁合同的情况；

　　4、如因对方拖欠债权人的债务，可向对方的债权人请求其出具存在债权债务关系的证明；

　　5、如对方患有严重疾病或伤残的，需要医疗及医学鉴定部门出具相关的证明材料。

　　法律依据：

　　《民法典》第一千零八十四条父母与子女间的关系，不因父母离婚而消除。离婚后，子女无论由父或者母直接抚养，仍是父母双方的子女。

　　离婚后，父母对于子女仍有抚养、教育、保护的权利和义务。

　　离婚后，不满两周岁的子女，以由母亲直接抚养为原则。已满两周岁的子女，父母双方对抚养问题协议不成的，由人民法院根据双方的具体情况，按照最有利于未成年子女的原则判决。子女已满八周岁的，应当尊重其真实意愿。

　　第一千零八十五条离婚后，子女由一方直接抚养的，另一方应当负担部分或者全部抚养费。负担费用的多少和期限的长短，由双方协议;协议不成的，由人民法院判决。

　　前款规定的协议或者判决，不妨碍子女在必要时向父母任何一方提出超过协议或者判决原定数额的合理要求。