Dit is een bekend probleem. Het gebruik van SMO tegen .Net 4.0 is niet afgemeld of aangekondigd door microsoft.
Er is een niet-ondersteunde optie om dit werkend te krijgen (voeg dit toe aan uw app.config):
<?xml version="1.0" encoding="utf-8" ?>
<configuration>
<startup useLegacyV2RuntimeActivationPolicy="true">
<supportedRuntime version="v4.0"/>
</startup>
</configuration>