Um einen eigenen Mailserver zu betreiben, welcher auch selbst Mails von extern akzieptiert, brauchst Du einen DNS-Eintrag, also eine eigene Domäne (oder Subdomäne). Dort wird dann im MX-Record der oder die zuständigen Mailserver eingetragen, so daß der versendende Mailserver weiß, welcher Server für Mails an deine Domain verantworlich ist. Hast Du keinen DNS Eintrag, so kann Dir nur jemand Mails an deinen Server übermitteln, der genau deine IP-Adresse kennt unddie Mails direkt an deinem Server als Smart Host abliefert. Eventuell bieten DynIP-Dienste mittlerweile auch zusätlziche MX-Records an, das kann ich nicht beantworten, da müsstest Du selbst eimal bei den betreffenden Diensten nachschauen.
Softwareseitig würde ich Dir zu einem Linuxsystem raten, da es einerseits günstig, andererseits vom Sicherheitsaspekt her geeigeneter erscheint bei neueren Distributionen. Empfehlenswert wären hier Mandrake oder Debian mit Postfix, Exim, Apache 1.3.29, PHP 4.3.4, OpenSSL, OpenSSH, MySQL oder Postgres SQL.
Bei der Einrichtung mußt Du darauf achten, daß Du nicht versehentlich einen offenen Mailrelay einrichtest, aber standardmäßig ist dies deaktiviert.
Falls Du von Extern auf das System zugreifen willst zur Konfiguration (aus dem Internet), dann am Besten nur über ssh, besser wäre es von außen nur die Ports 80 TCP und 443 TCP/UDP zulässt über die Firewallkonfiguration, sowie für Mails 25 TCP/UDP und 110 TCP/UDP.